エージェンティックAIと目的の肥大 / ICO Tech Futures報告書を素材に雑感

0　はじめに

　2026年1月、英国情報コミッショナー・オフィス（ICO）は、Tech Futuresの一環として「Agentic AI」報告書を公表した。生成AIの規律論が「学習データ」「生成物」「説明可能性」に収斂しがちななかで、同報告書が面白いのは、生成AIを"しゃべる道具"から"動く道具"へと連結したときに、データ保護法の原理がどこで軋むかを、設計論として描き出している点にある。本稿は、法学研究者と企業のAI・データガバナンス担当者を主な読者として、同報告書の示唆を素材に雑感を記す。

1　問題の所在

　エージェンティックAIは、LLM等の基盤モデルを足場（scaffolding）で補強し、外部ツール（データベース、メモリ、OS、ウェブ等）へ接続して、計画し、実行する。ここで重要なのは、AIが"推論っぽい何か"をするか否かではない。社会の側が、推論したかのように受け取り、その前提で意思決定や取引を前進させてしまうことである。AIが行為主体のように見えるほど、責任主体が溶ける。結果として「誰が」「どの目的で」「どの範囲の個人データを」扱ったのかが、事後的に追えなくなる。

　さらに厄介なのは、エージェンティックAIが、単独のサービスというより、組織の業務手順（workflow）そのものに溶け込みやすい点である。生成AIは、誤答しても「誤答したチャット」で止まる。しかしエージェントは、誤答を踏まえて"次の行為"へ進む。誤りが、データ更新、通知、決済、拒否、評価といった後続行為に変換される。この変換点に、法的緊張が集中する。

2　足場が生むデータ流通の複雑化

　報告書は、エージェンティックAIの特徴を、(1)知覚（多様な入力の取扱い）、(2)計画／推論様行為、(3)行為（ツール利用、コード実行、他者・他エージェントとの相互作用）、(4)学習・記憶として整理する。生成AIが"回答"で止まるのに対し、エージェンティックAIは"手順"を生成し、その手順を外部環境で実装しうる。すると、個人データの処理は、単発の入出力ではなく、連鎖するツール呼出しと状態遷移になる。

　しかも、誤情報（いわゆる幻覚）が、ツールや他エージェント経由で複数箇所に複製されると、訂正は「一箇所の修正」では済まない。誤りがワークフローに埋め込まれ、誤りを前提とする二次的意思決定が積み上がる。報告書が「cascading hallucinations」に言及する所以である。ここでは、正確性の原則は、単なるデータベース管理の要請ではなく、業務プロセス設計の要請へと変質する。

3　目的制限・データ最小化の開放

　データ保護法の基本原理は、目的を特定し、その目的に必要な範囲に処理を限定することにある。ところが、エージェンティックAIは開かれた目的を好む。利用者は「旅行をいい感じに手配せよ」「クレーム対応をよしなに処理せよ」と指示し、手段の特定をAIに委ねる。企業側も、将来の拡張や性能向上を口実に、目的を広く掲げがちである。しかし目的が広いほど、アクセスすべきデータも広がり、最小化は形骸化する。

　報告書は、設計・アーキテクチャが法適用を左右すると繰り返す。要するに、(a)アクセス可能なツール／データベースの慎重な選択、(b)権限管理と認証、(c)観測可能性（ログ等）、(d)マスキングや年齢確認等の統制を組み込め、という話である。これは、日本の実務言語に翻訳すれば「業務委託先に何を渡すか」ではなく「エージェントに何を見せるか」を、最小権限原則で詰めよ、という要請になる。便利な代理人ほど、権限を盛りたくなる。この欲望と原理の衝突が、エージェンティックAIの本丸である。

4　コントローラビリティと責任帰属

　報告書は、エージェンティックAIが少なくとも今後2〜5年で意識や意図を持つわけではなく、法主体でもないと釘を刺す。ここは強調してよい。エージェントが「勝手にやった」と言い出す組織は、たいていガバナンスが壊れている。問題は、制御が完全でないこと自体よりも、制御が完全でないと知りつつ、どの程度のリスクを許容して配置したかである。配置の決定は人間が行う。よって、説明責任と損害帰責の起点も、人間側に残る。

　もっとも、責任帰属は単線ではない。エージェンティックAIは供給連鎖が長い。基盤モデル提供者、エージェント構築ツール提供者、統合者、導入企業、そして現場利用者が、同一のワークフローを共同で"成立"させる。そのどこで個人データが取り込まれ、どこで推論（あるいは誤推論）が固定化され、どこで外部へ転送されたのか。ここが曖昧なままでは、コントローラ（管理者）概念は空洞化する。結局のところ、責任帰属の実務は、契約とログの世界に降りてくる。

5　透明性・説明可能性とログの政治

 エージェンティックAIが厄介なのは、透明性を高めようとすると、別のリスクが増える点にある。エージェントの行為を説明するには、ツール呼出し履歴、参照データ、意思決定の分岐、失敗と修正の記録が要る。しかしログは、しばしば個人データの塊であり、二次利用の誘惑も強い。監査のためのログが、監視のためのログへと変質する可能性もある。透明性は、万能薬ではなく、設計対象である。

 また、エージェンティックAIは自動化された意思決定（ADM）を増やす。速度と規模が増すほど、人間の介入は形式化しやすい。異議申立ての窓口があっても、実体としては「エージェントの結論を人間が追認する」だけになりがちである。報告書がDPOの役割変容や、監督用エージェント（supervisor agents）の可能性に触れるのは、この詰み筋を見ているからであろう。

 ここで一つ、やや意地悪な観点を置く。説明可能性を高める技術（ログ、可観測性、監査）は、一般に"記録を増やす"方向へ働く。だが、エージェンティックAIの価値は"環境と文脈を食う"ことにある。文脈を食わせれば食わせるほど、説明のために保存したいものも増える。すると、説明可能性の追求が、データ最小化と衝突する。エージェンティックAIの統治は、この自己矛盾を、設計上のトレードオフとして正面から扱わざるを得ない。

6　セキュリティと「個人情報の集中」

　報告書は、エージェンティックAIが新しい攻撃面（attack surface）を持つことにも注意を促す。従来のサイバーセキュリティが、脆弱性の探索と侵入、権限昇格、横展開を基本形としてきたとすれば、エージェント時代の攻撃は目的の歪曲や推論過程の攪乱、さらにはメモリ汚染といった、よりプロセス中心の形を取りうる。エージェントは、善意の"自動化された手"であると同時に、悪意にとっての"増幅器"でもある。個人データの保護は、モデルの中身より、エージェントの周辺（権限、ツール、ログ、ネットワーク境界）で決まる局面が増える。

　加えて、個人アシスタント型のビジネスモデルは、個人情報の集中を促す。カレンダー、決済、通信、ID、位置情報、嗜好、行動履歴が一つのエージェントに束ねられると、利便性は跳ねる。しかし同時に、漏えい時の被害も跳ねる。暗号化や分散管理で守ってきたものを、エージェントが"横串"でつなぐ。ここには、データ保護と競争政策が接続する余地もあるが、少なくともデータ保護の観点からは、集中を前提にした設計（例えばローカルエージェントや信頼実行環境、権限の階層化）が不可避となる。

7　プライバシー主導のイノベーション

　興味深いのは、報告書がリスク列挙で終わらず、プライバシーを支えるイノベーション領域を挙げている点である。たとえば、(a)データ保護コンプライアンスを"守る"だけでなく"計画生成の段階"に埋め込むエージェント、(b)権限・監査・説明・停止を支えるエージェント統制ツール、(c)クッキーやプライバシーポリシーを読み解き本人の意思を代替するプライバシー管理エージェント、(d)FOIや開示請求対応を補助する情報権エージェント、(e)データ保護適合性を実務的に評価するベンチマークである。

　このリストは、規制はブレーキであるという単純図式を壊す。むしろ、規制適合を"機能"として実装する市場が立ち上がりうる。法務が条文を読むだけでは足りず、プロダクトとしての統制（controls）が問われる。逆に言えば、統制を実装できる事業者が、信頼を競争優位へ変換できる。エージェンティックAIは、コンプライアンスが単なるコストではなく、設計上の差別化要因になりうることを示している。

8　シナリオ思考の含意

報告書は、採用度（adoption）と能力（capability）を軸に4シナリオを置く。法政策的に最も不愉快なのは「能力は低いが、とにかく遍在する」局面である。誤りが多いのに利用だけは広がり、苦情と事故が積み上がる。逆に「能力は高いが採用は限定的」局面では、事故は少数でも、個別事件が重く、調査と説明に高度な専門性を要する。いずれにせよ、シナリオが違えば、求められる規律の粒度も変わる。技術の未来は一つではなく、規律もまた単線ではない。

9　雑感

　エージェンティックAIの議論は、生成AIの延長線上にありつつ、別物でもある。生成AIが「表現」の問題を前景化したのに対し、エージェンティックAIは「権限委任」と「業務手順」の問題を全面に押し出す。法は、目的と権限の管理を、もともと得意としてきたはずである。にもかかわらず、AIの速度と複雑さの前で、目的は肥大し、権限は曖昧になり、責任は散逸しがちである。だからこそ、設計論に戻る必要がある。何を見せ、何をさせ、何を記録し、どこで止めるか。エージェンティックAIの規律論は、その四点セットを、技術者と法務が共同で詰める作業にほかならない。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。