EU基本権庁FRA報告書を読む / 高リスクAI分類の抜け穴と基本権評価の実態 雑感

Ⅰ　問題の所在

　欧州連合基本権庁（FRA）が2025年に公表した報告書「高リスク人工知能の評価：基本権リスク」〔注1〕は、EU AI法（Regulation (EU) 2024/1689、以下「AI法」）の実装初期段階における現場の実態を丹念に描き出した実証的な文書である。ドイツ、アイルランド、オランダ、スペイン、スウェーデンの5か国で、高リスクAIの提供者・導入者・専門家計38名へのインタビューと、権利保有者18名によるフォーカスグループを基礎とし、難民・教育・雇用・法執行・公的給付の各分野を対象とする。

　報告書が浮き彫りにする最大のリスクは技術そのものの欠陥ではない。AIが基本的人権に及ぼす影響を事業者が不完全にしか理解していないという点にある。提供者や導入者はデータ保護・技術的安全性の観点からリスクを分析する傾向が強く、特定の分野に固有の権利への影響は評価から漏れ落ちている。本稿では、AIシステムの定義問題、フィルター条項の構造的問題、そして自己評価への過度な依存という三点に絞って論じる。

Ⅱ　AIシステムの定義という地盤沈下

1　定義の解釈余地

　AI法の適用範囲を規定する第3条第1項の定義は、機械ベースのシステムが自律性をもって動作し、入力から予測・推奨・決定等の出力を推論するという要素を核とする。問題は、この定義がいまも解釈の余地を残していることである。欧州委員会は2025年に定義に関するガイドラインを公表したが、ロジスティック回帰のような確立された最適化手法を定義の外に置く方向を示した〔注2〕。

　FRAはこの絞り込みに懸念を示す。技術的に単純なシステムであっても、高リスク領域で運用されれば差別的影響や偏った決定を生み出しうる。報告書は、雇用分野の提供者の声を紹介する。「AIではないアルゴリズムも同様に有害でありうる。AI法の定義を避けるためにロジスティック回帰を使うという話になるが、それらも同様に問題をはらんでいる」〔注3〕。この証言は、定義の限定が実質的な規制回避を誘発するという構造的問題を端的に示している。従来のソフトウェアとAIの区別が、事業者の規制逃れの方便として機能しうる以上、定義は実質的影響に着目して広く解釈されなければならないとFRAは論じる。

2　委員会ガイドラインへの批判

　欧州委員会のガイドラインは公表直後から批判を受け、さらなる明確化を求める声が上がっている。EU司法裁判所がいずれこの定義の解釈を求められる局面が来る可能性は排除できない。問題の本質は単なる技術的分類の問題ではなく、基本権保護の実効的射程をどこに引くかという規範的問いである。

Ⅲ　フィルター条項という構造的抜け穴

1　フィルターの仕組みと問題の構図

　AI法はリスクベースのアプローチを採り、附属書Ⅲに列挙される高リスク用途に該当するシステムに一連の義務を課す。ところが第6条第3項に「フィルター」と呼ばれる除外規定が設けられており、健康・安全・基本権に対する重大なリスクを生じさせない場合には高リスク要件の適用を免除する。適用免除の条件として、「限定的な手続的タスク」の遂行や「準備的タスク」の遂行が列挙されている。

　この例外の適用判断は提供者の自己評価に委ねられている。提供者がフィルターを適用した場合、その根拠をEUデータベースに登録する義務を負うが、法執行・移民・難民・国境管理の分野についてはこの情報は欧州委員会と指定当局にのみ開示されるという透明性の例外が重ねて設けられている〔注4〕。

2　「準備的タスク」論の危うさ

　問題の核心は概念の実質的空洞化にある。難民認定手続において出身国を判定するための言語分析システムを例に取る。このシステムは形式上「準備的タスク」を実行するにすぎないとして高リスク分類を免れる可能性がある。しかし方言の識別に誤りがあり、担当者がその出力に依存すれば、申請者は信憑性を欠くと評価されかねない。最終的な意思決定に形式上関与しないとしても、その判断を事実上左右しうるシステムは実質的に高リスクであるとFRAは論じる〔注5〕。

　インタビューでは、同一のシステムについて提供者と導入者とで高リスク分類の判断が分かれるケースが複数報告されており、フィルターの解釈が組織の文化や担当者のバックグラウンドによって揺れ動いていることが示唆される。提供者が規制負担を避けるためにフィルターを広く行使すれば、AI法の有効範囲は縮小し、監視の及ばないグレーゾーンが拡大する。

　FRAはこれを受け、欧州委員会とAI理事会に対してガイドラインにおけるフィルターの明確かつ限定的な定義を求めるとともに、広義の解釈が横行する場合には第6条第7項に基づく委任立法によりフィルター要件を削除する可能性を視野に入れるよう勧告している〔注6〕。

Ⅳ　自己評価の限界と外部監督

1　基本権評価の偏重構造

　インタビュー結果が示す実態は率直に言って芳しいものではない。事業者が実施する評価はプライバシー、データ保護、非差別の三点に収束しており、分野固有の基本権への認識は著しく低い。報告書が端的に示すのは次の事実である。教育分野の回答者は誰一人として教育を受ける権利（EU基本権憲章第14条）に言及せず、雇用分野の回答者は職業選択の自由（憲章第15条）に触れず、法執行分野の回答者は無罪推定原則（憲章第48条）への影響を考慮していなかった〔注7〕。これは個別の知識不足というより、評価の枠組み自体が特定の権利領域に制度的に収束してしまっている構造的問題であると読める。

2　ヒューマン・オーバーサイトへの過信

　多くの提供者・導入者は最終判断を人間が行うという点を根拠にリスクを低く評価する傾向があった。しかし欧州データ保護監督官が指摘するように、AIの出力を無批判に受け入れるいわゆる自動化バイアスは現実に観察される現象であり、人的監視は万能ではない〔注8〕。人が形式上関与していても実質的にシステムの判断に引きずられているという状況は、法的観点からも軽視できない。

3　自己評価と外部監督の構造的緊張

　AI法の設計上、高リスクAI提供者の多くは内部統制手続によって適合性審査を行うことができる。自己評価が規制コンプライアンスの中核を担う構造である。しかし事業者が基本権の影響範囲を十分に把握していない現状では、自己評価は実効的な保護機能を果たしえない。

　FRAは、データ保護当局・平等機関・国家人権機関等が実効的な外部監督機能を担うべきであると論じ、AI法第77条が定める基本権保護機関の文書アクセス権を活用すべきだと述べる〔注9〕。同時に報告書は、これら機関がAI法に基づく新たな役割を担うに足るリソースを現時点で欠いているという現実も直視している。自己評価と外部監督の組み合わせという制度設計の方向性は正しいが、外部監督が機能不全に陥っているとすれば制度の実効性は著しく低下する。

Ⅴ　むすびにかえて

　FRAが報告書全体を通じて繰り返し強調するのは、AI規制と競争力・技術革新の対立という図式の誤りである。基本権に配慮したAI開発は、技術の質と信頼性を高めるという経路を通じて競争力に貢献するという立場をFRAは一貫して維持する。この主張が実証されるかどうかは、AI法の実施過程が答えを出すことになる。

　フィルター条項の厳格な運用と、実践的なガイダンスの早期整備が急務であることは報告書の一貫した結論である。技術要件の充足と個人の権利の実質的保護との間には依然として距離がある。その距離を埋める作業は、規制当局・提供者・研究者・市民社会の協働なしには成し遂げられない。詳細は原典をご確認いただきたい。

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。
P.S. This is shared for academic discussion only.