EU AI法と加盟国規制権限の「先占」―Finck「Legal Imaginations of the AI Act」を読む / AIと憲法雑感―

１　はじめに

　EU AI法（Artificial Intelligence Act, 以下「AI Act」）についての議論は、これまで「禁止AI」「ハイリスクAI」「透明性義務付きAI」「汎用目的AIモデル」というリスク区分や、コンプライアンス実務にどのような負担が生じるかといった実体面に集中してきた感がある。2024年8月1日の施行から、禁止行為やAIリテラシー義務が段階的に適用されつつあり、実務家の関心がそこに向くのは当然である。

（参考）

　しかし、Michèle Finckが公表したプレプリント「Legal Imaginations of the AI Act: A Constitutional Perspective on the Pre-emption of Member State Competence」は、AI Actの第一の効果は実体的な規制内容そのものではなく、「加盟国のAI規制権限の先占（pre-emption）」にあるのだという、いささか挑発的な読み替えを提示する論文である[1]。

※あくまで本記事は感想と雑感であり、自らが読むにあたって訳も完璧でない可能性があるため、詳細は原典を確認いただきたい。

　今回は、このFinck論文の議論をたどりつつ、EUのAIガバナンスを「権限配分」の観点から眺め直してみた雑感である。AI Actを日本の立法モデルとして参照するとしたときにも、リスク区分の輸入だけでよいのかという問いを与えてくれる論文であるように思われる。

２　Finck論文の射程――「法の想像力」とAI Act

　Finckは、法解釈や政治的議論は「法の想像力（legal imaginations）」、すなわち「法が何をしているのかについての物語」によって方向づけられると前提する[1]。AI Actをめぐっては、これまで以下の物語が流通してきた。

　他方で、AI Actが加盟国のAI規制権限をどの程度まで排除しているのかという「憲法的」側面は、これまでほとんど正面から論じられてこなかった。

　Finckはここに第二の物語を持ち込む。すなわち、AI Actは以下の構造をもつため、結果として「広い先占・狭い再規制」という、EU内部市場法としては異例のアーキテクチャになっていると指摘するのである[1]。

　その帰結として、多数のAIシステムについてはEU法上ほとんど義務が課されないにもかかわらず、加盟国がAI固有の追加規制を設ける余地もまた大きく制約される。Finckはこれを、「最大限調和（maximum harmonisation）」を通じた実質的な非介入状態の固定化とみなす。

３　EUのプレエンプション理論とAI Act

３・１　共有権限とプレエンプション

　EUは条約により権限を付与された範囲でのみ立法できる「限定列挙型」の法秩序である。内部市場（単一市場）は、加盟国とEUが権限を共有する「共有権限」として規定されており（TFEU 4条2項(a)）、AI Actはその中核規定であるTFEU 114条（加盟国法の調和）を主要な法的根拠としている[1]。

　共有権限の分野でEUが立法した場合、その分だけ加盟国の立法権は「先占（プレエンプション）」によって排除される。Finckは、アメリカの議論を踏まえたRobert Schützeの整理に依拠しつつ、EU法のプレエンプションを大きく三類型に分けて説明する[1]。

　AI ActをめぐるFinckの議論は、このうち最も強力なフィールド型プレエンプションに位置づけられる。

３・２　第1条・前文第1項と「最大限調和」

　AI Act第1条2項(a)は、「AIシステムの市場投入・サービス提供・使用に関する調和されたルールを定める」と宣言する。そのうえで前文第1項は、AI Actが「加盟国がAIシステムの開発・マーケティング・使用に制限を課すことを禁止する（ただし本規則が明示的に認める場合を除く）」と明記する[1]。

　この前文は、通常の「立法理由」を超えて、プレエンプションの射程をかなり露骨に書き込んでいる。Finckは、CJEUがWilson事件などで、前文や立法過程の資料を用いて「最大限調和」の意思を読み取ってきた実務を踏まえると[1]、AI Actについても以下の点から、AIシステムの「市場投入・サービス提供・使用」全体について加盟国規制を原則排除する意図が明瞭であると論じる。

　リスボン条約後に採択された議定書25号は、「EUが共有権限を行使しても、その行使は当該法令が実際に規律する要素に限られ、分野全体を自動的に占有するわけではない」と定めるが、Finckはこれを「暗黙のフィールド先占を抑制する推定」にとどまるものと理解し、AI Actのように前文で明示された最大限調和までは禁止していないと解する[1]。

４　「AIシステム」と「使用」をめぐる射程

４・１　AIシステム概念の広さ

　AI ActはAIそのものではなく「AIシステム」を規制対象とする。第3条1項の定義を要約すると、以下のようになる[1]。

　欧州委員会が公表したガイドラインも、機械学習や知識表現に基づく推論など、今日「AI」と呼ばれているほとんどの技術がこの定義に含まれることを前提としている。他方で、単純な数式処理や人が全てのルールを決めた決定などは除外されると整理されている[1]。

　要するに、実務上AIと認識されるシステムの大部分はAI Actの「占有領域」に入る。この時点で、AI Actが実体的義務を課すかどうかにかかわらず、その領域について加盟国はAI固有の規制を行いにくくなる。

４・２　「市場投入・サービス提供・使用」と「開発」

　さらに、第2条1項(a)はAI Actの適用対象としてAIシステムの「市場投入（placing on the market）」「サービス提供（putting into service）」「使用（use）」を挙げる。

　これに前文第1項が加わると、プレエンプションの対象は以下のように広範に及ぶ[1]。

　興味深いのは、研究・開発段階をAI Act本体は適用除外としつつ（第2条6項・8項）、前文1項は加盟国がその開発段階に追加制約を課すことも原則禁止している点である。Finckは、これを「AI開発の促進」という内部市場的目的を優先させた結果ととらえるが、その分だけ加盟国が環境負荷や倫理問題を理由に研究段階のAI開発を規制する余地は限定されると指摘する[1]。

５　Deepfake規制をめぐる事例と残された余地

５・１　バイエルン州・フランスのDeepfake立法のジレンマ

　Finckは、プレエンプションの含意を具体的に示す例として、Deepfakeを巡る刑事立法・表示義務立法を取り上げる。

　これらはいずれも、特定タイプのAIシステム（画像生成・編集系）の「使用」に対して加盟国レベルで追加規制を課そうとする試みである。

　しかしAI ActはDeepfakeについて、主として第50条の透明性義務――「人工生成・加工であることを表示する」――のみを定めるにとどまり、非同意ポルノなど特定用途の禁止や刑罰化までは踏み込んでいない[1]。

　Finckの読みでは、Deepfake生成のためのAIシステムの「使用」は明らかに前文1項の「use」に含まれる以上、加盟国がここに独自の禁止・刑罰を設けることは、形式的にはAI Actによって先占された分野に対する介入となる。その適法性は、最終的にはTFEU 114条4〜5項の例外手続やAI Actの開放条項の解釈に委ねられるが、少なくとも「国内刑法だからEUの問題ではない」とは言い切れないというのがFinckの指摘である[1]。

５・２　残された開放条項――どこまで加盟国は動けるか

　それでは、AIに関して加盟国にどのような余地が残されているのか。Finckは、主として以下のルートを挙げる[1]。

（１）TFEU 114条4〜9項に基づく例外手続

　　既存の国内法を維持する場合（4項）や新たな国内法を導入する場合（5項）がある。いずれも、公衆衛生・環境保護・労働環境など限定された理由に基づき、加盟国が国内法を正当化し、欧州委員会の承認を得る必要がある。AIの電力消費や環境負荷に関する規制、あるいは労働者の保護のための追加ルールは、このルートに乗る可能性があるが、手続は厳格であり、これまでの運用では活用例も多くない。

（２）AI Act第2条3項の「EU法の射程外」

AI Actは、「EU法の射程外の分野」には適用されないと宣言するが、CJEU判例はEU法の「射程」を広く解してきた。VAT徴収のように、国内制度であってもEU法上の分野と密接に関連すればEU法の射程に入るとされることから[1]、AIに関して真に「EU法の外」に位置付けられる領域は限られるとFinckはみる。

（３）国家安全保障・軍事・防衛（第2条3項）

　国家安全保障は本来加盟国固有の権限とされ（TEU 4条2項）、AI Actもこの分野を適用除外としている。他方で、何が「国家安全保障」に該当するかは判例法上も揺れがあり、監視目的のデータ収集などで警察活動と国家安全保障が連続している領域では境界が曖昧である[1]。また、AI Actは軍事・防衛目的に「のみ」用いられるAIシステムを除外しつつ、デュアルユース（民生・軍事両用）の場合には適用対象とする。この線引きも今後争点となる可能性が高い。

（４）雇用分野における労働者保護（第2条11項）

　AI Actは、雇用主によるAIシステム利用に関して、労働者により有利な国内法や労働協約を維持・導入することを明示的に認めている。これは、EUの雇用政策が基本的に「補完的権限」にとどまることを反映した開放条項であり、アルゴリズム管理・職場監視に対する上乗せ規制の余地がある[1]。もっとも、この条項は「雇用主による使用」に限られており、たとえば消費者向けAIサービス全般に適用されるような規制を正当化する根拠とはなりにくい。

（５）バイオメトリクスの追加規制（第5条5項・第26条1項）

　リアルタイム遠隔生体認証の使用について、AI Actは限定的な許容事由を定めつつ、加盟国がより厳格な規制を導入することを認める条項を置いている。ここは政治交渉の妥協の産物であり、AI Actの中でも例外的に「加盟国の裁量」が広く残された領域である。

（６）AIモデルの規制

　AI Actのプレエンプションは「AIシステム」に関するものとされており、モデルそのものの開発・訓練を直接対象としてはいない。Finckは、理論上、加盟国はモデル開発段階に関する規制（学習データの環境負荷や著作権保護など）を設ける余地があると指摘するが、モデルが具体的システムに組み込まれた瞬間にAI Actの占有領域に入るため、実務上の射程は限定的だとみる[1]。

６　政治的現実としてのプレエンプション

　以上を総合すると、AI ActはAIシステムの「市場投入・サービス提供・使用」という広い領域を最大限調和の対象としつつ、例外的に国家安全保障・雇用・生体認証などの窓を残す構造にあると整理できる。

　もっとも、Finck自身が強調するように、このプレエンプションがどこまで実際に「効く」かは、政治的な執行の問題でもある。欧州委員会は近年、違反手続を「体系的・構造的問題」に絞って運用する傾向があり、個別の国内法がAI Actの占有領域に食い込んでいるとして直ちに提訴されるとは限らない[1]。加盟国同士がTFEU 259条に基づいて互いの立法を争うのも政治的にはハードルが高い。

　結果として、法技術的にはAI Actが広範に先占していても、実務上は国内レベルのAI規制が一定程度積み上がりつつも、誰も本気で争わない「グレーゾーン」がしばらく続く可能性がある。Finckは、こうした乖離がAI Actの掲げる「法的予見可能性」の目的と緊張関係に立つことを指摘しつつ、現在進行中の「デジタル・オムニバス」見直しの場では、AI Actの憲法的な権限配分の選択について、より率直な議論がなされるべきだと結論づける[1]。

７　雑感

　日本の議論では、AI Actはしばしば「世界一厳しいAI規制」として紹介される。しかし、Finckの読みは、AI Actが少なくとも二つの顔を持つことを示している。

・一つは、ハイリスクAIなどに重いコンプライアンス義務を課す再規制の顔。

・もう一つは、非ハイリスクAIを含む広い領域で加盟国の追加規制を封じる、実はかなり「非介入的」な顔。

　前者だけを見ると「過剰規制」の文脈になるが、後者まで視野に入れると、AI Actは内部市場の一体性を優先し、AI規制の主導権をEUレベルに集約する中央集権化の装置としても読める。

　この点は、日本がAI基本法や各種ガイドラインを設計する際にも示唆的である。日本の場合、国と地方公共団体の権限配分はEUとは異なるが、「国レベルの包括法を一度置いたときに、自治体がどこまで上乗せ条例を出せるか」という問題設定は共通する。最初から中央集権的な枠組みを固定するのか、それとも一定の地域実験や政策競争の余地を残すのか。

　AIガバナンスを考える際、「どのリスク区分を輸入するか」という技術的な設計だけでなく、「どのレベルの政府にどれだけAI規制の裁量を認めるのか」という憲法的な設問を避けることはできない。Finck論文は、その点をEUという実験場から鋭く照らしているように思われる。

　今後、デジタル・オムニバスを通じたEUデジタル法制の再編や、各加盟国レベルでのAI関連立法をフォローしていく際には、個々の条文・義務だけでなく、その背後にある権限配分の物語にも目を向けておきたい。

　AIと法については、特定の細分化された専門知ではなく、文理融合は当然の前提とした上での分野を横断した広く深い検討視点が求められていくように思える。

８　思考の材料

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。