EU AI法 (EU AI Act)とEDPSの「ハイリスクAIマッピング」を読む雑感

１　はじめに

　EU AI法 (EU AI Act)　関係については、今年に入っても動きが大きく、以下の通り連続的に取り上げてきた。

（１）EU AI法 (EU AI Act) / GPAI Code of Practice・ガイドライン

（２）汎用AI

（３）EUデジタル・オムニバス提案

　EUのAI法制の議論を追いかけていると、「ハイリスクAI」という言葉だけがひとり歩きしているように見えることがある。条文レベルでは、禁止型AI・ハイリスクAI・透明性義務付きAI・一般目的AIモデルという整然としたリスク区分が用意されており、規則の体裁としては非常にきれいではある。もっとも、現実の行政組織の内部で「このシステムはハイリスクかどうか」を判断している人たちの視点から眺め直すと、かなり違った風景が現れてくる。

　2024年の人工知能規則（Regulation (EU) 2024/1689、いわゆるAI Act）は、EU域内におけるAI規制の包括的枠組みとして制定され、2024年7月に官報に掲載された。2024年8月1日に施行され、多くの義務は2026年8月2日から適用されるとされる。

　この規則は、AIシステムを禁止AI、高リスクAI、透明性義務の対象となるAI、そして一般目的AIモデルという四つのカテゴリーに分け、リスクに応じた規制水準を設定するというリスクベースの枠組みを採用している。

　その中核に位置づけられるのが「ハイリスクAI」である。第6条と附属書I・IIIが分類規則を定め、「(1) 既存のEU製品安全法制（New Legislative Framework）に基づく製品や安全コンポーネントに組み込まれたAIシステム」と、「(2) 教育、雇用、重要インフラ、移民・庇護・国境管理、司法・民主プロセスなど八つの用途分野におけるAIシステム」を「ハイリスク」と原則推定する構造になっている。

　もっとも、附属書IIIに挙がっているからといって自動的にハイリスクになるわけではない。第6条3項は、①狭い手続的なタスクの遂行にとどまる場合、②既に完了した人間の判断結果を単に改善するにすぎない場合、③人間の評価を置き換えたり強く影響を与えないかたちでパターン検出を行う場合、④リスク評価のための予備的作業に用いられる場合などには、ハイリスクから外し得ることを定めている。

　とはいえ、同条但し書きは、自然人のプロファイリングを行うシステムについては、こうした例外を適用しないことも明記している。ここだけ見ても、「ハイリスクAI」の境界は条文上からしてかなり複雑である。

　では、実際にこの規則の適用を受ける公的機関は、自らが利用しているAIシステムをどのように棚卸しし、どこからを「（潜在的な）附属書III型のハイリスクAI」とみなしているのか。これを垣間見せてくれるのが、European Data Protection Supervisor（EDPS）が2025年12月に公表した「Getting ready – preparing the EU public administration for the AI Act: High-Risk AI Systems Mapping Report in European Institutions, Agencies and Bodies（EUIs）」である。

※以下はあくまで上記を読んだ上での雑感であるため、詳細は原典を確認いただきたい。

２　EDPSの「ハイリスクAIマッピング」　

　EDPSは、AI ActにおいてEU機関・機関等（EUIs）に対するAIシステムの市場監視当局と位置づけられている。これを受けて2024年秋、EDPS内部にAIユニットが新設され、各EU機関に「AI Act Correspondents」のネットワークを張り巡らせながら、AI Act本格適用前の準備作業を進めている。その一環として行われたのが、本報告書にまとめられたAIシステムのマッピング演習である。

　この演習では、EUIsに対し、自機関が「開発している」「利用している」あるいはその両方に該当するAIシステムについて、テンプレートに従った自己申告を求めている。テンプレートでは、システムの名称や目的だけでなく、主たる技術（アナリティクス、機械学習、ディープラーニング、生成AIなど）、開発段階（開発中、パイロット、完全稼働など）、デプロイ環境（オンプレミスかクラウドか）、内部利用か外部とのインタラクションを含むか、といった項目が尋ねられている。さらに、附属書IIIのどのカテゴリーに該当し得るか、そして第6条3項の例外事由に該当すると考えるかどうかについても、自己評価を求めている点が特徴的である。

３　報告書前半（Part II）

　報告書の前半（Part II）は、EUIs内部で利用されているAIシステム全般の状況を俯瞰する。ここで目を引くのは、生成AIの存在感である。技術区分別の集計を見ると、生成AIが相当の割合を占めており、「AIシステム」と聞いて多くの職員がまず想起しているのが生成AIであることがうかがえる。他方で、開発主体を見ると、「自ら開発している」と回答した機関よりも、「第三者が提供する既製システムを利用している」と回答した機関の方が明らかに多い。つまり、EUIsもまた、多くの企業と同様、外部ベンダーやクラウドサービスとして提供されるAIに依存しているのである。

　また、デプロイ状況の分布からは、「まだ開発段階だが今後本格導入を予定しているシステム」と、「既に完全稼働しているシステム」が並存していることが読み取れる。先端的な実証プロジェクトが華々しく語られる一方で、実務を静かに支えている古いアルゴリズム系システムも相当数存在している、というごく現実的な姿である。

４　報告書後半（Part III）

　後半（Part III）は、附属書IIIに基づき「潜在的にハイリスクとなり得る」AIシステムに焦点を当てる。ここで対象となっているのは、たとえば、雇用・人事管理に用いられるシステム、重要な公共サービスへのアクセスを支援・制御するシステム、移民・庇護・国境管理の文脈で用いられるリスク評価システム、さらには司法・民主プロセスに関連するシステムなどである。

　興味深いのは、全体のAIシステムでは生成AIが支配的であるのに対し、附属書III候補のAIシステムでは、統計的な機械学習やルールベースのシステムなど、より「地味な」技術が主流になっている点である。生成AIはどちらかといえば汎用的な文書作成・翻訳・要約などに使われており、ハイリスク領域の中核をなすのは、スコアリング、リスク評価、ケースの優先順位付けといった、従来型の意思決定支援システムである。この対比は、「派手な生成AI」と「黙々と人事や審査を支えるアルゴリズム」という、AIガバナンス上の注目点の違いを象徴しているように思われる。

　報告書によれば、潜在的な附属書III AIシステムのかなりの割合が既に本番運用段階にあり、一部はパイロット段階にある。すでにEUIs内部の業務プロセスを深く支えているシステムが少なからず存在するということであり、AI Actの適用開始時点で、まったくの「更地」から高リスクAIの枠組みを適用するわけではないという現実を示している。

　一方で、附属書III候補システムのうち、自然人のプロファイリングを行っていると自己申告されたものは多くない。報告書は、現時点ではプロファイリングの報告件数は少ないとしつつも、AI Actの適用が進むにつれて状況が変化しうる点や、自己申告ベースであることによる限界を慎重に指摘している。また、第6条3項の例外に該当すると自己評価したケースも一定数存在し、とりわけ「狭い手続タスク」や「予備的な評価タスク」として自らのシステムを位置づける回答が目立つ。

　ここには、高リスクAIの自己分類に伴う、典型的なインセンティブ構造が顔を出している。ハイリスクに分類されれば、データガバナンス、文書化、ロギング、人間による監督、サイバーセキュリティなど、多数のコンプライアンス要件が課されることになる。他方で、自分のシステムは「単なる前処理」や「補助的な分析」にすぎないと位置づければ、ハイリスクの枠外に留まれるかもしれない。条文上は合理的に見える第6条3項の例外が、実務上は「リスクの過小評価」を正当化する物語として動員される危険は否定できない。

　だからといって、全てをハイリスク扱いにすべきだ、という単純な結論にはならない。報告書が示すように、EUIs内部にはAIへの技術的な理解や準備状況に明確なばらつきがある。ある機関は既に高度な技術用語を使ってバックエンド構成を説明している一方で、別の機関は「外部のベンダーが提供しているので詳細は不明」としか答えられていない。

　この「AI成熟度」の非対称性を踏まえれば、規則の解釈を一気に厳格化するよりも、まずは棚卸しと自己評価のプロセスを通じて、どこに本当に重大なリスクが集中しているのかを可視化していくことが重要だろう。

５　雑感

　EDPSの報告書は、タイトルに「De-mystifying High-Risk AI Systems」と掲げている。ハイリスクAIを「何か特別に危険なブラックボックス」としてではなく、既存の行政プロセスの中で、どのような局面で、どの程度の裁量を伴って使われているのかを一つひとつ書き出していく作業である。そこでは、「AIを使ったからハイリスク」なのではなく、「元々リスクの高い領域にAIが入り込んでいる」ことが問題設定の起点になっている。

　この視点は、日本でのAIガバナンス議論にもそのまま持ち込める。一般に、AI規制の議論は、民間企業のサービスやプロダクトに焦点を当てがちである。しかし実際には、規制当局や裁判所、警察、移民当局、さらには社会保障や雇用サービスなど、公的機関自身が高度なデータ処理とアルゴリズムを活用し始めている。EU AI Actが、金融・保険監督当局など既存の各種監督機関を、当該分野におけるAI Actの市場監視当局として指名していることも象徴的である。

　法学的に興味深いのは、ここで規制の反射性が現れている点である。すなわち、AI Actは民間事業者だけでなく、AIを利用する公的機関自身にも適用され、その監督を担う当局もまたAIを用いる可能性がある。EDPSによるAIシステムの棚卸しは、「監督される側」と「監督する側」が同じ規則のもとで自らの実務を見直すという、二重の反射構造の一端である。

　日本の行政機関や監督当局も、AIに関する包括的規制を検討する以前に、まずは自らの組織内でどのようなアルゴリズムやAIシステムが使われているのかを、EDPSと同様のテンプレート方式で棚卸ししてみる価値があるだろう。生成AIのような目立つツールだけでなく、スコアリング、ルールベースの審査補助、リスク評価モデルといった、既に日常業務に組み込まれているシステムを可視化することが肝要である。その上で、AI Actのようなリスクベースの枠組みを参照しつつ、「本当に高リスクとして特別な統制を要するのはどこか」を現場ごとに丁寧に議論していくべきである。

　ハイリスクAIというラベルは、法技術的には便宜的なカテゴリーにすぎない。しかし、そのラベルのもとに何が集められ、何が「例外」として外されていくのかというプロセスこそが、AIガバナンスの実質を形づくっていく。EDPSのマッピング報告書は、そのプロセスの最初のスナップショットとして、公的部門内部から見た「AIと法」の現在地を静かに示しているように思われる。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。