シンガポール「Agentic AIモデルガバナンスフレームワーク」の全貌と実務的含意雑感

0　はじめに

　2026年1月22日、スイス・ダボスで開催された世界経済フォーラム年次総会において、シンガポール情報通信メディア開発庁（IMDA）は「Model AI Governance Framework for Agentic AI」（以下「本フレームワーク」という）を発表した。

　シンガポールはこれまで、2019年のモデルフレームワーク第1版、2020年の第2版、そして2024年の生成AIに関するガバナンスフレームワークと、世界のAIガバナンス議論を一貫してリードしてきた。特筆すべきは、生成AIのフレームワーク公表からわずか1年半という異例の速度で、今回のエージェント型AIに特化した包括的なガイダンスを策定した点である。

　技術の潮流は、テキストや画像を生成する対話型AIから、自律的に計画し、ツールを使いこなし、タスクを完遂するAgentic AIへと急速にシフトしている。本フレームワークは、このパラダイムシフトを捉え、AIが行動主体としての性質を帯び始めた際に生じる法的・ガバナンス上の論点について、世界に先駆けて体系的な整理を試みたものである。

　今回は、公開されたバージョン1.0の文書に基づき、その概要を整理しつつ、エージェント型AIがもたらすリスクの変容と、それに対するガバナンスのあり方について検討する。

1　問題の所在

1.1　Agentic AIとは何か

　本フレームワークにおいて、エージェンティックAIシステムは「AIエージェントを使用し、指定された目標を達成するために複数のステップにわたって計画を立てることができるシステム」と定義されている。従来のLLMを利用したチャットボットとの決定的な違いは、エージェントがツールを使用して外部システムと相互作用し、環境に対して変更を加える能力を持つ点にある。

　フレームワークは、エージェントの構成要素として以下の6つを挙げている。第一にモデル、すなわち推論と計画を司る頭脳である。第二に指示、役割や制約を定義する自然言語によるコマンドである。第三に記憶、コンテキストや外部知識の保持を担う。第四に計画と推論、目標達成のためのステップ分解を行う。第五にツール、データベースやAPI等の外部システムとのインターフェースである。第六にプロトコル、MCPのようなエージェント間やツールとの通信規格を指す。

　これらが組み合わさることで、AIは単なる情報生成器から、ワークフローを実行するエージェントへと進化する。

1.2　リスクの質的転換

　生成AIにおけるリスクの中心は、ハルシネーションやバイアス、著作権侵害といった情報の質に関するものであった。これに対し、エージェンティックAIのリスクは行動の結果に直結する。

　フレームワークは以下のリスク類型を指摘する。まず誤った行動として、間違った日程での予約やバグのあるコードの実装がある。次に権限外の行動として、承認されていない高額な決済の実行がある。さらに連鎖的影響として、マルチエージェントシステムにおいて一つのエージェントの判断ミスが連鎖し、システム全体に波及するリスクがある。

　たとえば、サプライチェーン管理において、在庫管理エージェントが誤った需要予測に基づき発注エージェントに指示を出し、それが配送エージェントのスケジュールを混乱させるような事態が想定される。ここでは、ガバナンスの対象が「何と言ったか」から「何をしたか」へと拡大している。

2　リスク評価の新たな軸

　エージェントのリスクを適切に管理するためには、その特性を分解して理解する必要がある。本フレームワークは、リスク評価の軸として行動空間と自律性という2つの概念を提示している。

2.1　行動空間

　行動空間とは、エージェントがアクセスできる範囲と、そこで行使できる権限の広さを指す。アクセス範囲については、サンドボックス内のみか、社内システム全域か、インターネット上の外部APIかという区分がある。権限の性質については、読み取りのみか、書き込みや削除が可能かという区分がある。

　当然ながら、インターネットに接続され、かつデータベースへの書き込み権限を持つエージェントは、サンドボックス内でコード分析を行うだけのエージェントよりもリスクが高い。また、昨今注目されるComputer Useのような、人間と同様にブラウザを操作できるエージェントは、極めて広い行動空間を持つことになる。

2.2　自律性

　自律性とは、エージェントがタスク遂行の手順をどの程度自分で決定できるかという度合いである。定められた手順書通りに動く場合、自律性は低い。目標のみが与えられ、手段の選択をAIに委ねる場合、自律性は高い。

　自律性が高まれば高まるほど、予測不可能性が増大する。したがって、高リスクなタスクにおいては、意図的に自律性を制限する設計が求められる。

3　モデルフレームワークの4つの柱

　IMDAはこれらのリスクに対処するため、以下の4つの柱からなるガバナンス構造を提案している。

3.1　リスクの事前評価と境界設定

　第一の柱は、開発・導入段階におけるリスクの境界設定である。ここでは、まずユースケースのリスク評価を行った上で、設計段階からリスクを封じ込める措置を講じることが求められる。

　特筆すべきはアイデンティティ管理への言及である。エージェントが自律的に外部システムと連携する場合、その行動が誰の権限で行われたのかを追跡可能にする必要がある。フレームワークは、エージェントに固有のIDを付与し、そのアクションを特定の人間や部門の責任と紐づけることを推奨している。また、権限付与においては最小権限の原則を徹底し、タスク遂行に不要なツールへのアクセスは遮断すべきとされる。

3.2　意味のある人間の説明責任

　第二の柱は、人間の関与と責任の所在である。エージェント型AIの普及により、人間がすべてのプロセスを監視することは物理的に不可能となる。しかし、だからといって責任が免除されるわけではない。

　本フレームワークは、Human-in-the-loopの概念を、エージェントの特性に合わせて再構築している。具体的には、すべてのステップではなく、重要なチェックポイントを定義し、そこで人間の承認を求めるアプローチである。高リスクなアクション、たとえば機密データの外部送信や一定額以上の決済がこれに該当する。不可逆的な変更、たとえばデータの削除も同様である。

　また、人間がAIの提案を無批判に受け入れる自動化バイアスへの対策も不可欠である。承認者が適切な判断を下せるよう、ログを要約して提示するUIの工夫や、承認プロセスの定期的な監査が求められる。

3.3　技術的統制とプロセスの実装

　第三の柱は、運用フェーズにおける技術的なガードレールである。開発段階では、エージェントの計画能力に対するガードレール、たとえば自己反省プロンプトの組み込みや、ツール入力のバリデーションが重要となる。

　テスト段階においては、評価指標の多次元化が必要である。単なる出力精度だけでなく、ポリシー遵守やツール使用の正確性をテストしなければならない。エージェントの挙動は確率的であるため、多様なシナリオを用いたストレステストや、サンドボックス環境での十分な検証が求められる。

　運用後のモニタリングでは、異常検知が鍵となる。短時間に異常な回数のAPIコールが発生した場合や、許可されていないリソースへのアクセス試行があった場合に、即座にエージェントを停止させるサーキットブレーカー機能の実装が推奨されている。ここでは、エージェントを監視するエージェントという新たな技術的アプローチも示唆されている。

3.4　エンドユーザーの責任の有効化

　第四の柱は、利用者側のリテラシーと責任である。エージェントを利用するユーザーに対し、そのAIができることの範囲とリスクを透明性高く伝える必要がある。

　ここで非常に興味深いのが、トレードクラフト、すなわち専門技能の維持に関する指摘である。AIエージェントが業務の多くを代行するようになると、人間側から基礎的な業務知識や判断能力が失われるリスクがある。たとえば、初級エンジニアがコーディングエージェントに依存しすぎると、コードの品質をレビューする能力が育たない可能性がある。フレームワークは、こうしたスキルの空洞化を防ぐための教育やトレーニングも、AIガバナンスの一環として位置付けている。

4　考察

　本フレームワークの内容を踏まえ、法務およびガバナンスの実務的観点からいくつかの考察を加える。

4.1　SOPの復権とコード化

　生成AIブームの初期において、我々はAIの創発性や創造性に注目した。しかし、エージェンティックAIを企業のコア業務に組み込む局面では、求められるのは確実性と統制である。フレームワークが強調するSOPへの準拠は、AIガバナンスが、抽象的な倫理原則から具体的な業務手順の記述へと回帰することを意味している。法務部門は今後、社内規程や業務マニュアルを、AIが解釈・実行可能な形式に落とし込む作業に関与することになるだろう。これはLaw as Codeの実装形態の一つとも言える。

4.2　代理権と責任の所在

　エージェントが行った契約や不法行為の責任は誰が負うのか。現行法上は利用する人間または法人に帰属するが、マルチエージェント環境ではその因果関係の特定が困難になる。フレームワークが提唱するエージェント・アイデンティティと動的な権限管理は、この法的責任を明確化するための技術的基盤となる。企業は、自社のエージェントが外部と取引を行う際、そのエージェントが誰の代理としてどの範囲の権限を持っているのかを、技術的に証明できる体制を整える必要がある。これは、電子署名や認証基盤の議論を、AIエージェント向けに拡張することを意味する。

4.3　予見可能性と結果回避義務

　エージェントが高い自律性を持つ場合、開発者や利用者がその具体的挙動をすべて予見することは不可能に近い。しかし、だからといって法的責任が免責されるわけではない。今後は、具体的な挙動の予見可能性ではなく、リスクの境界設定の適切性が注意義務の判断基準になっていくのではないか。すなわち、エージェントが暴走する可能性を予見し、被害を最小限に抑えるための行動空間の制限や、監視体制を構築していたか否かが問われることになるだろう。

4.4　シンガポールのアジャイルな規制デザイン

　最後に、政策的な観点についても触れておきたい。シンガポールは、技術の進化に合わせて規制フレームワークを頻繁にアップデートするアジャイル・ガバナンスを実践している。EUが包括的なAI法によるハードロー規制を先行させたのに対し、シンガポールはガイドラインベースのアプローチで、技術の不確実性に柔軟に対応しようとしている。エージェンティックAIという、定義すら定まりきっていない領域に対していち早くモデルを示すことで、国際的なルール形成の主導権を握ろうとする戦略は、日本のAI政策においても大いに参照すべき点である。

5　むすびに

　エージェンティックAIの登場は、AIを便利なツールから、共に働く同僚、あるいは権限を持つ代理人へと変貌させる。それは企業の生産性を飛躍的に高める可能性を秘めているが、同時に、企業ガバナンスに対してかつてないレベルの解像度と即応性を求めている。

　今回発表されたフレームワークは、現時点ではモデルであり、法的拘束力を持つものではない。しかし、将来的な法規制や、企業間取引におけるデューデリジェンスの基準となる可能性は極めて高い。法学研究者や実務家は、AIが何を生成したかを審査するフェーズから、AIに何を許可し、どう監視するかを設計するフェーズへと、思考の枠組みをアップデートする必要がある。その際、本フレームワークは、我々が立ち返るべき重要な基本設計図となるであろう。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。