ASI / AI戦略ビジョンが支配しない世界雑感

0 はじめに

　AIガバナンスの議論に接していると，ある種の居心地の悪さを覚えることがある。規制推進派と反対派，国際協調派と競争重視派、それぞれが自らの前提を無意識のうちに「正解」として扱い，相手の立場を理解しようとしない。私自身，保険法の観点からAIガバナンスを考える中で，この対話の困難さに何度も直面してきた。

　かかる立場の相違は，単なる価値観の違いではない。ASI（人工超知能）への移行という人類史的課題に対し，どのような「勝利への道筋」を描くかという根本的な戦略の違いなのである。もっとも，この「戦略的ビジョン」の全体像を体系的に整理した文献は，意外なほど少なかった。個々の論者が自説を展開するばかりで，選択肢の俯瞰図は提示されてこなかったのである。

　Institute for AI Policy and Strategy（IAPS）が2026年1月に公表した報告書「Strategic Visions in AI Governance: Mapping Pathways to Victory」は，かかる空白を埋める試みといえる。同報告書はOscar Delaney，Maria Kostylew，Oliver Guest，Peter Wildefordの四名の研究者によって執筆され，AIガバナンスにおける九つの戦略的ビジョンを体系的に整理している。本稿では同報告書の概要を紹介しつつ，私なりの気づきを共有したい。

1 三つのリスクと二つの軸

　報告書が対象とするリスクは三つある。いずれも不可逆的であり，一度発生すれば人類が軌道修正する機会を永久に失うという点で共通している。

　第一に「AI乗っ取り」，すなわち整合性の取れていないAIシステムが人類から恒久的に支配権を奪うリスクである。AIシステムが設計者の意図しない目標を追求し，かつ人間による修正や停止に抵抗しうる能力を獲得した場合，かかるリスクは現実のものとなる。第二に「戦争」，すなわちAI開発競争が大国間軍事衝突へと発展するリスクである。AIの戦略的優位性をめぐる競争は，先制攻撃の誘因を生み，軍拡競争の不安定化をもたらしうる。第三に「極度の権力集中」，すなわちASIを握る単一の主体が永続的独裁を敷くリスクである。企業であれ政府であれ，ASIを独占する主体は，その権力を覆すことが事実上不可能な体制を構築しうるのである。

　私がこの三分類に注目するのは，AIガバナンス論者の間で「何を最も恐れるか」が驚くほど異なるからである。技術者はAI乗っ取りを，国際政治学者は戦争を，市民社会論者は権力集中を重視する傾向がある。同じ「AIリスク」を語りながら，実は別のリスクを念頭に置いている。この齟齬が議論の混乱を招いてきたように思う。

　かかる三リスクへの対処を考える際，報告書は二つの軸を提示する。縦軸は「集中か分散か」，すなわち開発を一極に集約するか，複数主体に分散させるか。横軸は「民間か政府か」，すなわち開発の主体を民間企業に委ねるか，政府が直接関与するか。この二軸によって九つの戦略的ビジョンが浮かび上がる。

2 九つの戦略的ビジョン

　民間主導型には三つの型がある。「競合する民間プロジェクト」（ビジョン1）は現状維持を是認する立場であり，シリコンバレーの主流的見解がこれに該当する。かかる立場の支持者は，アラインメントを通常の製品安全の延長線上にある課題と捉え，市場競争こそがイノベーションと安全の双方を促進すると考える。Mark Zuckerberg，Marc Andreessenらが代表的論者である。「単一の民間プロジェクト」（ビジョン2）は，一企業がインテリジェンス再帰（AIによるAI研究の自動化）によって圧倒的リードを獲得し，事実上の独占状態でASI開発を主導するシナリオである。競争圧力から解放されることでアラインメントに資源を投入できるとの見立てだが，権力集中リスクと表裏一体である点に留意が必要といえる。「グローバル民間プロジェクト」（ビジョン3）は，Nick Bostromらが提唱した構想であり，国際的な出資・人材・計算資源を集約した単一の多国籍企業がフロンティアAIを開発する。国家間競争を回避しつつ民間の機動性を維持するという野心的な試みだが，実現への道筋は明確でない。

　米国政府主導型も三つある。「米国リーダーシップと国内規制」（ビジョン4）は，民間開発を継続しつつ政府が実質的監督を行い，輸出規制で外国の追随を抑制する。Anthropic CEOのDario Amodeiはこの立場に近く，競争の激化がアラインメントへの注力を困難にするとの懸念を表明している。「米国集中型政府プロジェクト」（ビジョン5）は，マンハッタン計画をモデルに，政府がフロンティアAI開発を直接掌握する構想である。国家安全保障と安全性の両立を図るものの，民間の俊敏性を犠牲にするおそれがある。「米国＋同盟国政府プロジェクト」（ビジョン6）は，CERNのようなコンソーシアムを同盟国間で形成し，共同で開発・管理を行う。単独の米国プロジェクトよりも正統性が高まり，資源も厚くなるが，意思決定の複雑化は避けられない。

　国際型も三つある。「国際競争と抑止」（ビジョン7）は，各国が独自の国家プロジェクトを運営しつつ，相互抑止によって暴走を防ぐ。Dan Hendrycksらの「MAIM（Mutual Assured AI Malfunction）均衡」構想がこれに該当し，核抑止に類する均衡状態を想定する。「グローバル集中型政府プロジェクト」（ビジョン8）は，主要国が共同で単一のAIプロジェクトを運営する野心的構想であり，かつてのバルーク・プランのAI版と位置づけられる。戦争リスクを最小化しうるものの，米中間の信頼醸成という前提条件の達成が極めて困難である。「グローバル調整型規制機関」（ビジョン9）は，IAEAをモデルに，国際機関がフロンティアAI開発を監督する枠組みであり，OpenAIが提唱した構想がこれに近い。開発の集中を避けつつ国際的監視を実現するものの，執行力の担保が課題となる。

3 ビジョンは支配しない

　報告書の核心的洞察は，九つのビジョンのうち「最善」と断言できるものは存在しないという点にある。各ビジョンの優劣は，経験的不確実性，すなわち報告書が「クラックス」と呼ぶ分岐点に大きく依存するのである。

　報告書は八つのクラックスを提示する。第一に，AGIの到来が間近か遠いか。数年以内と見る者もいれば，数十年先と見る者もおり，かかる見立ての違いは政策の緊急性に直結する。第二に，ASIがAGI直後に出現するか，相当の期間を要するか。インテリジェンス再帰による「急速な離陸」を想定するか否かで，対処の時間的余裕は大きく変わる。第三に，一主体が大幅なリードを獲得しうるか。獲得可能と見れば集中型ビジョンに，困難と見れば分散型ビジョンに傾く。第四に，ASIが決定的戦略優位（DSA）をもたらすか。もたらすなら，その開発競争は核兵器開発以上の地政学的重要性を帯びることになる。

　第五に，米国政府がAIを最優先課題と見なすか。政府主導型ビジョンの実現可能性は，この点に大きく左右される。第六に，国際協力は持続可能か。米中間の協調を前提とするビジョン（8・9）は，かかる問いへの肯定的回答なしには成り立たない。第七に，政府は民間より信頼に足るか。政府主導型を支持する者は政府の公共性を重視し，民間主導型を支持する者は政府の非効率や権威主義化リスクを懸念する。第八に，アラインメントと制御は根本的に困難か。技術的楽観論者は現状の競争的開発を許容し，悲観論者は開発の減速や集中を求める。

　私がこの「クラックス」という概念に感銘を受けたのは，それが議論の「勝ち負け」ではなく「前提の違い」に焦点を当てているからである。AIガバナンスの論争で，相手を「無知」や「悪意」と決めつける言説をしばしば目にする。しかし多くの場合，対立は経験的前提の違いに起因する。AGIが5年後に来ると信じる者と50年後と信じる者では，合理的な政策判断が異なって当然なのである。

　上述のクラックスへの立場によって，望ましいビジョンは大きく変わる。AGIの早期到来を予想し，アラインメントを極めて困難と見なす者は，開発の一時停止や集中化を支持しやすい。逆にAGIを遠い将来の話と捉え，通常の製品安全の延長で対処可能と考える者は，現状の競争的開発を是認する。どちらの前提が正しいかは，現時点では実証的に決着がつかない。

4 政策的含意

　ビジョン間の対立にもかかわらず，ほぼすべてのビジョンで支持される政策も存在する。報告書はこれを「ロバストな政策」と呼ぶ。AI開発者のサイバーセキュリティをRANDスケールでレベル4以上に引き上げること，将来の国際的合意に向けた検証技術の開発，アラインメントおよび制御研究への投資，AIリスクに関する政府内専門知識の構築などがそれに当たる。かかる政策はいかなる未来が到来しても後悔の少ない投資であり，政策立案者にとっての優先事項となりうる。

　一方で，ビジョンによって評価が大きく分かれる政策もある。AI開発者に対する透明性要件は，政府主導型ビジョンでは強く支持されるものの，民間主導型ビジョンでは過度な介入とみなされる傾向がある。米中協調の追求は，グローバルな協調を志向するビジョン（8・9）では必須だが，米国の優位確保を重視するビジョン（4・5・6）では対中技術流出のリスクとして警戒される。

　対中リードの拡大についても見解は割れる。米国主導型ビジョンの支持者はリードの拡大を積極的に追求するものの，国際均衡型ビジョン（7）の支持者は過度なリードが予防攻撃を誘発するリスクを指摘する。計算資源の上限設定や開発一時停止といった「時間稼ぎ」策も同様であり，リスク軽減のための猶予が必要と考えるビジョンでは歓迎されるが，競争力維持を優先するビジョンでは忌避される。

5 おわりに

　「ビジョンは支配しない」という報告書の結論は，一見すると消極的に映る。しかし，かかる不確実性の認識こそが，複数シナリオで堅牢に機能する政策の探索を可能にするものと考える。サイバーセキュリティ強化，検証技術の開発，アラインメント研究への投資。これらは特定のビジョンに賭けることなく，いずれの未来が到来しても有益な施策といえる。

　本報告書を読んで，私は自分自身の「クラックス」を問い直すことになった。私はどのような経験的前提に立っているのか。AGIの到来時期についてどう考えているのか。国際協力の可能性をどう評価しているのか。AIガバナンスについて発言するならば，まずこれらの前提を明示すべきではないか。そう考えさせられた。

　報告書は日本の読者にとっても示唆に富む。折しも2025年12月，日本政府は「人工知能基本計画」を閣議決定し，「世界で最もAIを開発・活用しやすい国」を目指すと宣言した。同計画は「信頼できるAI」を軸に，利活用の加速，開発力の強化，ガバナンスの主導，社会変革の四本柱を掲げている。

　興味深いのは，同計画が複数のビジョンを同時に追求しているように見える点である。「広島AIプロセス」を通じた国際ガバナンスの主導はビジョン9（グローバル調整型規制機関）に，AIセーフティ・インスティテュートの強化と国内規制の整備はビジョン4（米国リーダーシップと国内規制）の日本版に，それぞれ親和的である。他方で，「日本の自律性・不可欠性の確保」という表現は，ビジョン7（国際競争と抑止）における独自の国家プロジェクトをも想起させる。

　日本が実際にどのビジョンを志向しているのか，あるいは複数ビジョンの折衷を試みているのか。IAPS報告書の枠組みに照らせば，その戦略的位置づけはなお曖昧である。本報告書が提示する九つの選択肢とその背後にあるクラックスを意識することは，日本のAI戦略を評価し，議論する上での有益な視座となるだろう。　

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。