国際AI安全報告書2026 / 証拠のジレンマと管理されないスピード雑感

0　はじめに

　2026年2月3日、全221ページに及ぶ国際AI安全報告書2026が公表された。座長はヨシュア・ベンジオ、書き手は30カ国以上から集まった100名超の独立専門家である。2023年11月に英国ブレッチリー・パークで開催された第1回AI安全サミットの系譜を継ぐこの文書は、汎用AIをめぐる議論の重心を、再び実証と統治に引き戻すものとなった。

　同報告書には、規範的な政策提言がほとんど含まれていない。代わりに提示されるのは、現時点で利用可能な科学的知見の合意点、不確実性、空白の切り分けである。報告書自体も、特定の政策・規制アプローチを支持しない旨を冒頭で明示している。目的は、意思決定者が迷うべき場所を可視化することにある。

　今回は、国際AI安全報告書2026の要点を手掛かりに、AIガバナンスにおけるスピード追求と証拠要求を、制度設計としてどう接続し得るかを整理する。注目する軸は一つ。報告書が証拠のジレンマと呼ぶ構造である。能力は急加速する一方で、リスクに関する証拠は遅れて現れ、しかも評価が難しいという非対称性のことだ。この構造の下では、スピードを止めればよいという処方箋も、証拠が揃うまで待てという態度も、ともに現実に負ける。負け方の種類が違うだけである。

1　問題の所在　証拠のジレンマは法とガバナンスの仕様バグである

　意思決定が証拠よりも速く進む、この報告書が節目となるのは誇張ではない。

　AIの能力向上は指数関数的であり、リスクを検証し法的な評価を下すための証拠が揃う頃には、技術はさらに先へと進んでいる。この時差こそが、法とガバナンスが直面する最大の敵である。法学研究者や企業のAI担当者にとって、報告書が突きつける課題は、従来のリスク管理手法が機能不全に陥る可能性だ。事故が起きてから対処する事後規制も、統計的なデータが揃ってから規制を導入する証拠に基づく政策立案も、最先端AIにおいては間に合わない。

　報告書は、政策担当者にとっての困難をこう定式化する。早すぎる介入は、効果の乏しい介入を固定化し得る。他方で、決定的なデータを待てば、社会は深刻な負の影響に晒され得る。行政法の世界で繰り返し現れる判断時点の合理性と結果責任の緊張が、AI政策では時間圧縮された形で現れるのである。

　さらに厄介なのは、証拠が遅いだけではないという点である。報告書は、技術的・制度的な困難として、三つの要素を挙げる。第一に、新たな能力が予測不能に出現し得ること。第二に、モデル内部が十分に理解されていないこと。第三に、事前テストの成績が実世界での有用性・リスクを十分に予測しないこと、いわゆる評価ギャップの存在である。証拠が足りないとは、単にデータ量の不足ではなく、評価手法の妥当性そのものが揺らいでいるという意味になる。

　この評価ギャップは、法的には二つの含意を持つ。第一に、予見可能性を前提に構築されてきた責任配分モデルが、AIを介して摩耗する。第二に、規制の入口を性能指標やベンチマーク達成に寄せすぎると、規制設計が技術の測定誤差に巻き取られる危険がある。後述するギザギザのフロンティアは、この危険を一層増幅する。

2　ギザギザのフロンティア　境界線が引けないことが、最も法的である

　報告書は、汎用AIの能力がギザギザであることを強調する。最先端システムは、コード生成、写真級画像生成、数学・科学の専門家級質問応答といった難題で卓越する一方で、画像内の物体カウント、物理空間の推論、長いワークフローにおける小さな誤りからの回復といった、一見簡単そうなことで躓く。

　今日のシステムは複雑な領域を完璧にこなしても、シーン内のオブジェクトを数える、物理空間で推論する、混乱したワークフローの小さなミスから回復する、といった作業で失敗する。そのギザギザこそが、組織が偽りの安全感を抱く原因であるともいえる。

　このギザギザは、技術評価の話で終わらない。法とガバナンスの言葉に翻訳すると、次のようになる。

　第一に、リスク評価の単位が不安定になる。従来のソフトウェア評価は、機能Aは要件Bを満たすかという直線的関係に寄せやすかった。ところがギザギザの汎用AIは、同じモデルでもタスク・文脈・連鎖の長さで挙動が変わる。結果として、このモデルは安全かという問いが、どの使用文脈で、どの統合形態で、どの失敗許容度でという多次元の問いに分解される。

　第二に、契約・調達・第三者委託の設計が難化する。企業がAIを導入する際、要求仕様で性能と安全性を担保したい。しかし、ギザギザは性能の平均値よりも失敗の尾の方が重要であることを示唆する。平均点ではなく、特定条件下の破綻が企業リスクになるからである。

　第三に、説明責任の様式が変わる。ギザギザの世界では、事前評価でOKだったという説明は、それだけで免責の物語になりにくい。むしろ、事後モニタリングと更新を含む継続的管理が、説明責任の中心に移動する。報告書も、開発者が利用者フィードバックや指標を追跡し、実運用で見つかった問題に対応する形で反復的に改善している旨を述べている。

　法的責任の観点からすれば、高度な判断ができるから信頼できるという推論は通用しない。AIが複雑な条項の矛盾を見事に指摘したとしても、当事者名の単純な取り違えや日付の誤記といった初歩的なミスを見落とす可能性がある。人間がAIは高度な判断ができるからと過信し、最終確認を怠って損害が生じた場合、その責任はAIの欠陥にあるのか、それとも人間の監督義務違反にあるのか。報告書が指摘するように、AIにはもっともらしい嘘やおべっか使いの傾向がある。これらの特性が企業の意思決定プロセスに潜り込むことを防ぐための人間による監督の設計は、単なる品質管理ではなく、法的な免責要件を構成する重要な要素となるはずである。

3　意思決定サイクルの圧縮　エージェント化は運用リスクを前面に出す

　報告書は、推論時スケーリング等による能力向上に触れつつ、AIエージェントの実用範囲が拡大していることを示す。

　特に重要なのは、ソフトウェア工学領域における指標である。研究者らは、AIエージェントが80%の成功率で達成できるタスクの複雑性が、概ね7か月ごとに倍増していると推計した。報告書は、この傾向が続けば、2027年に数時間、2030年に数日規模のタスクを達成し得る旨も示している。ただし80%成功率であり、専門領域の自律運用には不足し得るという留保が付く。

　この現象をチャットボットリスクから実際のビジネスプロセス全体における運用、セキュリティ、ガバナンスのリスクへの変質と表現した。エージェント型AIは、自律的に計画を立案し、ツールを使用し、実行する。AIエージェントが自社のシステム改善のためにコードを書き、それをデプロイし、外部APIと通信を行う。この一連のプロセスが、人間の承認サイクルよりも速く回るようになったとき、企業のガバナンスは機能するだろうか。

　法務・ガバナンスが直面する論点は二つである。

　第一に、リスクの形が変わる。タスク長が伸びるということは、単発の誤答より、ワークフロー内での微小な誤りが蓄積・増幅される余地が増えるということでもある。報告書が長いワークフローでの基本的エラーからの回復に弱い点を挙げるのは、まさにこの文脈で効く。

　第二に、統治の時間軸が短縮される。従来、規制は、一定の社会的被害が顕在化し、そこから立法・行政対応に至るという時間順序を取りやすかった。しかし、能力が7か月単位で伸びる世界では、立法の時間と技術の時間が乖離する。証拠のジレンマは、単に慎重に調べてからでは追いつかないという意味で、制度の設計仕様そのものに刺さっている。

　法的には、AIエージェントの行為に対する責任帰属が問題となる。AIが行った契約締結や不法行為の効果は誰に帰属するのか。現行法ではAIに法人格は認められていないため、基本的には利用者または開発者に帰属することになるが、AIの自律性が高まるにつれて、利用者の予見可能性や支配及ぼし得べき範囲を超えた行為が行われるリスクが高まる。企業は、AIエージェントに与える権限の範囲と、その行動に対するモニタリング体制を、従来以上に厳格に設計する必要がある。これは、民法上の使用者責任や、会社法上の内部統制システムの構築義務といった既存の法的枠組みの中で、より高度な注意義務として具体化されるであろう。

4　深層防衛とリスクガバナンス　単独解は存在しない

　証拠が遅く、評価が外れ、時間が圧縮される。そうなると、統治の発想は単発の最適解から多層の失敗許容へ移る。報告書が強調するのが、深層防衛である。

　報告書は、深層防衛を、独立かつ重層的な防御の複数レイヤーを実装し、一つが失敗しても他が有効に機能するようにするという考え方として整理し、技術的・組織的・社会的措置を開発・展開の各段階に重ねるモデルとして説明する。スイスチーズ図、すなわち穴の位置が違う複数層で貫通を防ぐ図を持ち出すのも、その直観を共有するためである。報告書は感染症対策を類比として挙げている。

　報告書の要点は、単一の解決策はないと要約できる。安全には、より優れた評価とインシデント報告、より強力な組織ガバナンス、そして社会的レジリエンスへの投資など、多層的な統制が必要である。

　この深層防衛は、ガバナンスの言い訳ではない。むしろ、ガバナンスの設計原理である。単一の技術的セーフガードが破られることを前提に、組織的統制や社会的レジリエンスを重ね、全体として事故確率を下げるという発想は、原子力・感染症・金融システムなど、ハイリスク領域の統治で繰り返し現れてきた。

　報告書は、深層防衛を具体化する手段として、リリース・展開戦略の重要性を述べる。段階的リリース、API等の制御された提供形態、ライセンス契約・許容利用方針による法的禁止などにより、誤用や予期せぬ害が出た際の緩和余地を確保するという整理である。ここで法が急に前に出る。利用規約やライセンスは、単なる紙ではない。深層防衛のレイヤーの一つとして設計される限り、契約条項はリスク低減の技術になる。

5　リスクの三分類と企業リスク登録簿への反映

　報告書は、現在のリスクを三つのバケットに整理している。これらは、すべての企業がリスク登録簿に反映すべき具体的な項目である。

　第一のバケットは、悪用である。詐欺、脅迫、同意なしの画像生成などがすでに記録されている。生成AIを用いたフィッシング詐欺や、CEOの声を模倣したなりすまし詐欺などは、企業のセキュリティに対する直接的な脅威である。企業は、自社のAIモデルが悪用されないためのガードレールを実装する義務とともに、外部からのAI悪用攻撃に対する防御態勢を整える必要がある。法的には、AIモデルの提供者が予見可能な悪用を防止する措置を講じなかった場合、製造物責任や不法行為責任を問われる可能性が高まっている。

　第二のバケットは、故障である。チャットからエージェントへの移行に伴い、信頼性の低下は致命的なリスクとなる。AIの誤作動が、物理的な損害や巨額の金銭的損失につながるシナリオを想定しなければならない。法務部門は、ベンダーとのSLAにおいて、AIの故障や幻覚に起因する損害の賠償責任をどのように配分するか、再検討を迫られるだろう。最先端のAIだから多少のミスは仕方ないという免責論理は、AIが基幹業務に組み込まれるにつれて許容されなくなる。

　第三のバケットは、システム的影響である。AIの導入は迅速だが不均一であり、労働市場への圧力、自動化バイアス、重要インフラへの影響などが懸念されている。報告書によれば、週に少なくとも7億人が先進的なAIシステムを利用している一方、多くの地域では10%未満のままである。まだ大量失業は見られないが、ジュニア職に対する測定可能な圧力や自動化バイアス、スキル低下の初期兆候がある。

　特に注目すべきは、世界中の組織が少数の企業が開発・提供する汎用AIシステムに大きく依存している現状である。もし、基盤となるAIモデルに共通の脆弱性やバイアスがあった場合、それに依存するすべての企業のシステムが同時に影響を受けることになる。個々の企業としても、マルチモデル戦略や、バックアップ体制の整備といった、サプライチェーンリスク管理としての法務戦略が求められる。

6　スピードと証拠を両立する実装　証拠生成の統治へ

　では、スピード追求と証拠要求を、実装としてどう両立させるか。ポイントは、証拠を待つものではなく作るものに変えることである。証拠のジレンマの下では、証拠は自然には集まらない。集まるように制度と企業行動を設計する必要がある。

　第一に、評価の開示と情報アクセスの設計である。報告書は、政策担当者が、開発者・提供者がどのようにテスト・評価・モニタリングしているか、緩和策がどの程度有効かについて情報アクセスが限定されている旨を指摘し、透明性や体系的インシデント報告の議論に触れている。ここから導かれるのは、官民いずれであれ、証拠を産むための報告義務・共有枠組みが中核になるという点である。

　第二に、リスク受容の明確化である。報告書は、アクセス制御、継続モニタリング、if-thenコミットメント等の例を挙げつつ、どの程度のリスクが許容可能かという問いが残り、リスク受容基準を形式化する動きが始まっている一方で、リリース前の受容判断を検証する確立した仕組みがない旨を述べる。企業ガバナンスとして読み替えれば、取締役会レベルのリスク・アペタイトとAI運用の接続が未成熟だという話である。

　第三に、ポストデプロイメントの管理を本体に据えることである。報告書が記述するように、利用者フィードバックや影響指標の追跡、統合の更新、継続的微調整等は、実務として既に行われている。ここを、責任の中心に置く。モニタリングの設計、ログと監査証跡、更新の判断基準、更新の告知と影響評価、停止・巻き戻しの手続を、契約・内部規程・技術運用の三点セットで固める。ギザギザの世界では、これが証拠生成の最短距離である。

　第四に、深層防衛の法務実装である。報告書が示すように、深層防衛は技術レイヤーだけでなく、組織と社会を含む。企業実務では、提供形態を含むリリース戦略、許容利用方針とその執行、インシデント報告ルートと内部通報保護、第三者委託先を含むサプライチェーンの責任分担、教育・訓練を、互いに独立したレイヤーとして設計することになる。

　以上をまとめれば、スピードそのものは不可避である。しかし、管理されないスピードは不可避ではない。証拠の生成速度を上げる設計を採るか、採らないかは選択である。報告書の結論は、スピードは避けられないものだが、管理されていないスピードは選択だと要約しうる。

7　おわりに

　国際AI安全報告書2026は、汎用AIの軌道が固定されていないこと、そしてその軌道が開発者・政府・制度・コミュニティの選択によって形作られることを明示する。この点に、証拠のジレンマの希望がある。証拠が遅いなら、証拠が集まる統治を作る。評価が外れるなら、運用後の監視と更新を統治の中心に置く。時間が圧縮されるなら、意思決定の反復可能性を制度化する。

　報告書は絶望を説いているわけではない。十分な措置があることを強調し、関係するすべての関係者がその責任を負うべきであると力強く主張している。法律実務家や研究者もまた、この科学的根拠に基づく警告を真摯に受け止めなければならない。技術の詳細はエンジニアに委ねるとしても、その技術がもたらす証拠のジレンマや信頼性の罠の本質を理解し、適切なガバナンスの設計を描く責務がある。

　結局のところ、スピードか安全かという問いが最も誤らせる。正確には、スピードを前提に、どのレイヤーで、どの証拠を、どの頻度で生成し、誰が説明責任を負うか、である。問いの粒度を上げること自体が、ガバナンスである。.

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。