高リスクAIの自己評価オプトアウト / 脱リスクという規制回避 / 欧州評議会ガイドラインを読む 雑感

Ⅰ　ガイドラインの問題意識

　2025年12月、欧州評議会はEU AI規則における差別防止の実効性を正面から問う政策文書を公表した〔注1〕。対象はEU加盟国の平等機関および国内人権機構である。執筆者はKris ShrishakとSoizic Pénicaudの両名で、ベルギー、フィンランド、ポルトガルの平等機関との協働のもとに作成された。

　筆者が最も関心を引かれたのは、EU AI規則の条文それ自体よりも、条文が運用される段階で生じる規制回避の構造に対する、繰り返しの警告である。ガイドラインは、AI事業者が規制の曖昧さを利用して義務を逃れる行動をde-risking practices（脱リスク慣行）と呼び、この行動様式が禁止規定と高リスク分類の双方で発生しうると指摘する〔注2〕。以下では、この脱リスクの問題を軸に、ガイドラインの議論を読み解く。

Ⅱ　禁止規定における曖昧さの帰結

　EU AI規則5条は、ソーシャルスコアリング、顔認識データベース構築のための無差別スクレイピング、職場・教育機関における感情認識など、EUの基本的価値に反するAIの慣行を禁止している。2025年2月に施行が始まり、同月、欧州委員会が解釈ガイドラインを公表した〔注3〕。

　ところが、本ガイドラインが繰り返し指摘するのは、欧州委員会のガイドラインそのものが曖昧だという点である。たとえば、5条1項(a)が禁止する「意識の及ばないサブリミナル技術」「意図的な操作技術」「欺罔技術」はいずれもAI規則上定義されていない。欧州委員会のガイドラインは法的拘束力をもたず、最終的な明確化は判例法に委ねられる。疑義のある場面で事業者がどう振る舞うか。ガイドラインの見立てでは、事業者は安全側ではなく規制回避側に倒れる。禁止されているかどうか判然としなければ、禁止されていないと自己判断して運用を続ける。これが脱リスク戦略の第一の類型である〔注4〕。

　具体例として挙げられているのが、公的部門で導入が進むチャットボットである。2024年にニューヨーク市が導入したチャットボットは労働法に関する不正確な情報を提供した。また、2023年にはベルギー人男性がチャットボットとの対話の後に自死する事件が報じられている〔注5〕。ガイドラインは、チャットボットが誤情報によって利用者の行動を歪め損害を生じさせた場合に5条1項(a)の欺罔に該当しうること、社会経済的な脆弱性を利用して福祉給付に関する情報提供を怠った場合には同項(b)の脆弱性利用にあたりうることを分析している。同じ技術が複数の禁止類型にまたがるという整理は、禁止の適用が一義的には決まらないことを改めて浮き彫りにしている。

Ⅲ　高リスク分類のオプトアウトという構造問題

　筆者が本ガイドラインで最も読み応えがあると感じたのは、高リスクAIシステムの分類をめぐる議論である。

1　自己評価とオプトアウト

　EU AI規則は附属書IIIにおいて、生体認証、教育、雇用、社会保障へのアクセス、法執行、移民・庇護・国境管理といった分野で使用されるAIシステムを高リスクに分類し、リスク管理、データガバナンス、基本権影響評価等の義務を課している。しかし、6条3項は、提供者が自己評価によって高リスク分類からオプトアウトできる仕組みを設けている。

　オプトアウトの要件は四つある。当該システムが限定的な手続的タスクを行うこと、人間の活動結果を改善するものであること、意思決定パターンの逸脱を検出するものであること、附属書III記載の評価の準備的タスクを行うことである。問題は、これらの要件の中核にある「重大なリスク」（significant risk）の概念がAI規則上定義されておらず、判断が提供者の自己評価に委ねられ、かつその評価を公表する義務もないことにある。提供者は国内当局から求められれば評価を提示しなければならないが、事前に第三者の目に触れる仕組みにはなっていない〔注6〕。

　ガイドラインは、この仕組みが規制を構造的に空洞化させる危険を警告する。履歴書の自動解析は面接対象者の選定を左右しうるにもかかわらず、限定的な手続的タスクとして高リスクから外れうる。庇護申請書類の翻訳AIは特定言語での誤訳が庇護希望者の運命を変えうるのに、準備的タスクと分類されうる〔注7〕。いずれも、形式的にはオプトアウトの要件を充たしつつ、実質的には差別のリスクを残す場面である。

2　EMFA型の外部検証との対比

　ここで想起されるのは、欧州メディア自由法（EMFA）第18条における宣言制度との構造的な異同である。EMFAの宣言制度もまた、メディア事業者の自己申告に基礎を置く。ただし、EMFA側は、虚偽宣言に対して規制当局や自主規制機関への照会ルートを設け、市民社会組織やファクトチェック機関が疑わしい宣言にフラグを立てるチャネルを制度化している。自己申告の弱点を外部検証で補う構造が組み込まれている。

　翻って、AI規則のオプトアウトには、こうした外部検証の回路が薄い。市場監視当局は事後的に評価を行い、虚偽分類には制裁金を課しうるが、提供者のオプトアウト判断が事前に外部の目に触れる仕組みは設けられていない。自己評価と非公表の組み合わせは、脱リスク慣行を誘発する温床となりうる。ガイドラインが平等機関に対し、オプトアウトした事業者の一覧を独自に作成し、市場監視当局や欧州委員会に直接伝達するよう提言しているのは〔注8〕、まさにこの欠落を補おうとする試みであると筆者は理解する。

Ⅳ　基本権影響評価の死角

　高リスクAIシステムの運用者に課される基本権影響評価（FRIA）についても、ガイドラインは楽観していない。FRIA義務の対象は、公法上の団体と公共サービスを提供する私的団体に限定されている。民間企業が雇用分野でAIシステムを運用する場合、FRIA義務は及ばない〔注9〕。加えて、法執行、移民、庇護、国境管理の分野ではEU高リスクAIデータベースは非公開とされ、FRIAの結果もデータベースに含まれない〔注10〕。

　ガイドラインが懸念するのは、AIオフィスが作成するテンプレートに沿って質問票を埋めるだけの形式的な作業にFRIAが堕する可能性である。どの差別事由について検証が行われたか、交差的差別がどの程度考慮されたか、差別リスクがどう軽減されたかといった情報が、テンプレートの設計次第では十分に捕捉されない〔注11〕。ガイドラインは、平等機関がFRIAテンプレートの策定段階から関与し、差別防止に実質的な問いを組み込むよう提言している。

Ⅴ　むすびにかえて

　本ガイドラインを通読して浮かぶのは、法律の文言と実際の保護のあいだに横たわる距離である。禁止規定は存在する。高リスク分類の仕組みもある。しかし、禁止の境界が曖昧で、高リスクからの離脱が提供者の自己判断に委ねられ、その判断の公表義務もないとなれば、制度が想定した保護は容易に掘り崩される。ガイドラインが繰り返し平等機関の積極的な関与を説くのは、条文の存在だけでは規制の実効性が担保されないという認識に基づいている。

　なお、AI規則の附属書IIIに列挙された高リスク分野のうち、信用スコアリングならびに生命保険および健康保険のリスク評価と価格設定については、民間事業者を含む全ての運用者にFRIA義務が課されている〔注12〕。公的部門を主たる射程とする本ガイドラインの延長線上に、民間部門における差別モニタリングをどう実効的に組み立てるかという問いが控えている。

他にもEU AI法については網羅的にまとめているため、必要あらば以下の目次を参照いただきたい。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。