UK AISI「Frontier AI Trends Report」 / フロンティアAIの複利成長とガバナンスの運用監視化 / 日本の人工知能基本計画・人工知能関連技術の研究開発及び活用の適正性確保に関する指針の比較雑感

 　UK AI Security InstituteのFrontier AIトレンドレポートを読んで感じたことと日本との比較法の視点から雑感を記しておきたい。レポートを読んで一番に感じたことは、フロンティアAIの能力成長はもはや直線的ではなく、既存のガバナンスモデルを上回る速度で複利的に拡大しているということである。

　際立っているのは、単にモデルが「良くなっている」ことだけでなく、人間の基準がいかに速く上書きされているかである。サイバー分野では、フロンティアモデルが見習いレベルの作業を約50%の確率でこなしており、2024年初頭の10%強から増加している。2025年、AISIは通常10年以上の人間経験を必要とする専門家レベルのサイバータスクを完了できる初のモデルをテストした。さらに重要なのは、サイバータスクモデルが自力で完了できる時間が約8か月ごとに倍増し、エージェントが人間の専門家が1時間以上かかるようなスケープの整ったソフトウェアタスクを自律的に完了できるようになったことである。このトレンドラインは、単一のベンチマークよりもはるかに重要である。

　ガバナンスの観点から見ると、これは段階的な転換である。ほとんどのエンタープライズAIコントロール、具体的には、ポリシー、リスクレジスタ、モデルインベントリ、第三者レビューは比較的静的で狭いシステム向けに設計されていた。AISIのデータによると、フロンティアモデルがソフトウェア、サイバー、科学ワークフローの各段階で運用的に自律化しつつある。化学や生物学の分野では、モデルは厳しいQA評価において博士レベルの専門家を上回り、デュアルユース手順のための実行可能なウェットラボプロトコルを作成し、人間の専門家よりも最大90%高いスコアを持つトラブルシューティング指導を提供している。これはもはや「意思決定支援」ではない。これは重要な領域における機能的置換である。

　セーフガードの状況もまた、楽観を許さないものである。まず良い面として、セーフガードを突破するために必要な労力は増加している。AISIの観察によれば、わずか6か月間隔でリリースされた2つの主要モデルを比較した場合、生物学的誤用を可能にする「ユニバーサル脱獄（汎用的な安全機構突破手法）」を開発するのに専門家レッドチームが要する時間は、約40倍に増加した。しかし他方で、時間さえかければ突破は依然として可能であるという事実も明らかになった。AISIはテスト対象としたすべてのシステムにおいてユニバーサル脱獄の開発に成功しており、セーフガードの堅牢性は、開発企業間、誤用カテゴリ間、アクセス形態間で大きなばらつきがあった。とりわけ、オープンウェイトモデルにおいてその脆弱性は顕著である。

　ガバナンス、リスク、セキュリティに携わる人々にとって、その含意は明白である。AIガバナンスは政策保証から運用監視へと移行しなければならないということである。エージェントが数時間にわたるタスクを自主的に操作できる場合、年次レビューや紙ベースの管理ライブラリは危険なほど不十分である。ガバナンスには継続的な評価、ライブリスクテレメトリー、そして誤用やモデルの失敗が起こることを想定したエスカレーションパスが必要である。

　AISIの報告書は警戒を煽るものではないが、警告でもある。フロンティアAIは、機関が監督の再構築を進めるよりも速く質的な閾値を越えている。もはや問題は、高度なAIがセキュリティや安全リスクを生み出すかどうかではなく、ガバナンスシステムが制御しようとするモデルと同じ速さで複合的に成長できるかどうかである。

   このUKの切迫した現状認識に対し、ひるがえって日本の動向はどうであろうか。同時期に公表された日本の「人工知能基本計画（案）」および「適正性確保に関する指針（案）」と比較すると、両国の「危機感」の所在とガバナンスのアプローチには興味深い対照が見られる。

　日本の基本計画（案）は、世界的なAI開発競争における「周回遅れ」を直視し、「反転攻勢」を掲げている点が特徴的である。UKが「技術の暴走・制御不能」に対する実存的・セキュリティ的な危機感を原動力としているのに対し、日本は「産業競争力の喪失」に対する経済的な危機感を原動力としている。そのため、日本の政策の基調は「イノベーション促進とリスク対応の両立」にあり、リスク対応そのものを「信頼できるAI」という付加価値に転化しようとする意図が明確である。

（参考）

　ガバナンスの手法において、UK AISIが提示した方向性が「運用監視（ライブテレメトリー）」や「継続的なレッドチーミング」といった、動的かつ対抗的な措置であるのに対し、日本の指針（案）は「人間中心」「公平性」「透明性」といった原則重視のソフトロー・アプローチを基調としている。特筆すべきは、日本も「アジャイルなガバナンス」を標榜し、PDCAサイクルの高速化やAISIの人員倍増（UKをベンチマークとする旨の記載あり）を打ち出している点である。これは、静的なコンプライアンスでは不十分であるという認識においてUKと軌を一にするものである。

　しかし、UKレポートが突きつけた現実は、日本の想定する「アジャイル」のさらに先を行っている可能性がある。モデルの能力が8か月で倍増し、専門家レベルのタスクを自律的にこなすエージェントが出現している現在、日本の指針が主に依拠している「事業者による自主的なリスク特定・評価」や「ステークホルダー間の対話」というプロセスベースのガバナンスが、技術進化の速度に追いつけるかは予断を許さない。UKが指摘するように、紙ベースの管理や年次レビューが「危険なほど不十分」であるならば、日本の指針もまた、より実装レベルでの「常時監視」や「自動化された防御」へと急速に具体化を迫られることになるだろう。

　日本が掲げる「世界で最もAIを開発・活用しやすい国」という目標を実現するためには、産業振興的なアクセルを踏むと同時に、UK AISIが示唆するような、高度な技術的検証能力に裏打ちされた強いブレーキ（またはハンドル）をガバナンス・システムの中に実効的に組み込めるかが鍵となる。法と技術の交差点において、日英のアプローチは異なる出発点を持ちながらも、最終的には「自律的エージェントをいかにリアルタイムで統御するか」という同一の難問に収斂していくことになるのではないだろうか。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。