米中GPAIガバナンスのズレの構造 / RAND報告書を読む 雑感

Ⅰ　問題の所在

　AIガバナンスという語は、便利である一方、だいたい何でも入ってしまう。安全の話も入るし、産業政策も入るし、表現規制も入る。結果として、議論の輪郭がぼやけ、誰が何を規律しようとしているのかが曖昧になる。
　この曖昧さは、国内議論にとっても厄介だが、国際協力の局面ではより致命的である。国が違えば、規律したい対象も、正当化の語彙も違うからである。
　2024年12月、RAND研究所よりOliver GuestおよびKevin Weiによる報告書が公表された〔注1〕。米中両国の汎用人工知能（general-purpose AI。以下GPAI）に対するガバナンスの構造的なズレを、三つの切り口で整理した分析である。GPAIとは、大規模言語モデル等に典型的に見られる、用途横断的に使えるAIを指す。従来の特定用途のAIに比して、法が介入すべきポイントが増える。モデル自体の能力が危険になり得るし、利用文脈が変わると危険性が跳ね上がる。さらに、同じモデルが、民生、軍事、犯罪、研究開発のすべてに使えてしまう。
　今回は、同報告書を手がかりに、米中のGPAIガバナンスのズレを、(1)国内規制の焦点、(2)国内規制を支える原則、(3)国際実装の回路、という三層に分解して眺め直す。そのうえで、ズレの解消ではなく、ズレを前提とした相互運用性の作り方に思考の軸足を置く。

Ⅱ　RAND報告書の骨格

　同報告書は、米中がGPAI開発の主要プレイヤーであること、そして両国が国際的なAIガバナンスにおける主導権を志向していることを前提に、政策地形を比較する。注目すべき分岐点として、(1)国内規制の焦点の違い、(2)国内規制の主要原則における価値観の対立、(3)国際的なAIガバナンスを実施するためのアプローチの相違、の三点を抽出する〔注1〕。
　ここで重要なのは、比較が制度一覧ではなく、どこに力点が置かれているかを把握するために設計されている点である。個別法令の細部を追うよりも、どの概念が政策言語として前景化しているかに注目する。
　結論は明快である。米国はモデルやシステムの内在的リスクに照準を合わせる傾向が強い。他方、中国は歴史的にはコンテンツ規制、すなわち出力の管理を起点にしてきた。国際実装では、中国はUN枠組み志向が強く、米国はより排他的な枠、同盟国中心の枠組みを好む。この三つのズレが、調和の難しさを増幅させる。

Ⅲ　国内規制の焦点のズレ

1　米国側の発想

　米国のガバナンスの発想は、ざっくり言えば、危ない能力を持つものを、危なくなる前に押さえるというものである。規制の焦点は、モデル（学習済み重みを含む中核アルゴリズム）や、それを包むシステム（フィルタ、UI、プロンプト等を含む運用体）へ向かいやすい。規制対象をモデルや開発者側に置けば、下流の無数の利用形態を一括してカバーできる、という期待が働く。
　この延長線上で現れるのが、計算資源（training compute）を代理指標として用いるアプローチである。2023年10月の大統領令14110号は、10の26乗FLOPS（浮動小数点演算）を超える計算能力を用いて訓練されたモデルを対象とし、開発者に安全性評価と連邦政府への報告を義務付けた〔注2〕。計算資源の増大がモデルの能力向上、ひいてはリスクの増大と相関するという仮説に依拠し、しきい値を超えたモデルに強い義務を課す設計である。
　カリフォルニア州で議論されたSB 1047法案（最終的に知事拒否権が発動された）やコロラド州のAI法においても、規制の主眼はフロンティアモデルの開発者や高リスクシステムの提供者に置かれている〔注1〕。米国はAI技術の内在的な能力や開発プロセスを管理することで、川上段階でのリスク低減を図ろうとしている。

2　中国側の発想

　中国側は、制度の来歴として情報統制を長く運用してきた。その文脈にGPAIが入ってくると、まず出力が社会的に許容されるかが前景化する。中国サイバースペース管理局（CAC）が中心となって策定した深層合成管理規定（2022年）や生成式人工知能サービス管理暫行弁法（2023年）といった主要な法規制は、AIが生成するコンテンツや、そのサービスを提供するプロバイダーを対象としている〔注3〕〔注4〕。
　2024年2月に発表された国家標準（TC260-003）においても、モデル生成コンテンツの安全性評価に詳細な規定が設けられている〔注1〕。特定の政治的な質問に対して適切な回答を生成するかといった評価項目は、技術そのものの危険性というよりも、技術がもたらす社会的、政治的影響を重視するアプローチである。また、中国の公式な政策文書には、米国のような明示的な計算能力のしきい値は言及されていない（ただし、学者の草案レベルでは言及がある）。

3　中国のモデル規律への接近

　ただし、Guest・Weiが示唆するように、中国がモデルやシステムの規律へ接近しつつある兆候もある。アルゴリズム登録制度（备案）により、企業がモデルの訓練データやアルゴリズムのメカニズムに関する情報開示を迫られる局面が出てきている〔注1〕。2024年7月の中国共産党第20期中央委員会第3回全体会議（三中全会）の決定において、AIの安全を確保するための監督制度の構築が明記された〔注1〕。
　従来型の、出力だけ見ていれば足りるというモデルが限界に来ているという認識が透ける。GPAIは、出力だけ押さえても、別のアプリ、別のAPI、別の国を経由した出力経路に逃げるからである。もっとも、形式的に米国のアプローチに近づきつつある側面があるとしても、その目的が技術的安全性なのか体制維持のための統制なのかという点において、隔たりは残る。

Ⅳ　国内規制を支える原則のズレ

1　誰がGPAIを開発できるべきか

　米国は国家安全保障上の観点から、先端半導体等の輸出規制を通じて、中国の能力上昇を抑制する方向へ動いてきた〔注1〕。他方、中国はグローバルAIガバナンス・イニシアティブ等を通じて、すべての国は、その規模、力、社会システムにかかわらず、AIを開発し利用する平等の権利を持つべきであると主張する〔注5〕。上海宣言もまた、開放性と共有利益の精神を唱えている〔注6〕。
　ここには、競争関係それ自体が規範論を上書きしていく構造がある。権利の普遍性を語る側と、安全保障を語る側がすれ違うのは、ほぼ構造的である。
　関連して、オープンウェイトモデルへのスタンスにも差異が見られる。中国の主要な政策文書はオープンソースモデルの原則を支持しており、明示的な警告は少ない。海外技術からの切り離しや自国産業の振興といった経済的動機も背景にある。米国側は、2024年のNTIA報告書等において、現時点では規制は不要であるが、オープンモデルがCBRN（化学・生物・放射性・核）兵器の取得障壁を大幅に下げるような場合には将来的に規制が必要になり得ると述べている〔注1〕。

2　コントロールという語の意味のズレ

　技術文脈でのcontrolは、しばしば人間がシステムを統御できるか、システムが自律的に暴走しないか、を意味する。他方、中国側の言説では社会的価値への負の影響を抑える意味で語られることがある〔注1〕。さらに、中国語の安全（anquan）がsafetyとsecurityを跨いでしまうことが、議論の焦点を曖昧にする。中国の政策文書がAIの安全を語るとき、それがバグや暴走を防ぐことを指すのか、体制に批判的な情報の拡散を防ぐことを指すのかが判然としない。結果として、同じ安全やコントロールを唱えても、目指す世界が一致しているとは限らない。

3　国家権力とAIの関係

　中国はAIを国家の統治能力の強化に接続しやすい。政策文書に現れる調和（harmony）という語は、個人の権利よりも集団的な目標や国家の自律性を優先する文脈で用いられることが多い〔注1〕。他方、米国は（少なくとも理念としては）市場や民間主導を強調し、中国によるAIを用いた監視体制の強化に強い懸念を表明している。
　ただしこの対比も単純ではない。米国も国家安全保障の語彙でAIを扱い、政府が評価や標準化の枠組みを作る。結局、両国とも国家が介入するのであり、争点は介入の正当化と限界の引き方にある。
　この点、2024年末時点のRAND報告書の観測をそのまま現在形で語ることには慎重でありたい。米国では2025年1月の大統領令により、大統領令14110号が撤回され、諸施策の見直しが命じられた〔注7〕。制度の連続性それ自体が政治条件に左右されるという事実は、米国はモデル規制というステレオタイプを雑に適用することを戒める。ガバナンスは、法技術であると同時に、政治の産物である。

Ⅴ　国際実装の回路のズレ

1　場の選択

　中国はUN枠組みを強く重視し、国際機関を通じた制度化を志向する。習近平国家主席は、グローバルAIガバナンス・イニシアティブの発表に際し、国連の枠組みの中で国際機関を設立することを提案した〔注5〕。上海宣言もまた、国連を主要なチャネルとすることを求めている〔注6〕。一国一票の原則が適用される国連の場において、グローバルサウス諸国の支持を取り付けることで、米国主導のルール形成に対抗し、自国の影響力を最大化できるという計算が働いている。実際、中国が国連総会に提出した決議案は能力構築（capacity-building）に重点を置いている〔注9〕。
　他方、米国はG7等、比較的メンバーが限定された枠組みを好む傾向がある。G7広島プロセスにおける行動規範の策定や、米国が主導するAIセーフティ・インスティテュート（AISI）の国際ネットワーク構築がその典型である〔注1〕。AISIのネットワークには英国、日本、カナダ、シンガポールなどが参加しているが、中国は含まれていない。
　場の選択は中立ではない。UNは普遍性を持つが、合意形成は遅く、内容は抽象化しやすい。排他的枠組みは速度と同質性を得るが、正統性と包摂性で批判されやすい。両者はトレードオフである。

2　外交の窓口

　外交実務の構図も見逃せない。2024年5月の米中政府間AI対話において、米国側は国家安全保障会議等の実務担当者が主導し、中国側は外務省の北米大洋州局（対米外交担当）が主導したとされる〔注1〕。この非対称性は、米国がAIのリスクそのものを実質的な議題と捉え技術的な解決策を模索しようとしているのに対し、中国側はAI対話を対米関係の管理や外交カードの一環として捉えている可能性を示唆する。何を主目的とするか、リスク低減か、関係管理かの違いが、窓口の選定に映り込んでいる。
　中国がAISIネットワークに入っていないこと自体が、協力の限界線を示すシグナルとして機能する。ここでも制度設計だけではなく、誰と作るかという政治が効いている。

Ⅵ　むすびにかえて

　米中のギャップを前にすると、つい統一ルールを作れと言いたくなる。しかし、統一はしばしばコストが高い。価値が違い、政治が違い、リスク像が違う以上、単一の規範文書で吸収するのは難しい。
　現実的な方向性は、Guest・Weiが示唆するように、相互運用性（interoperability）である。モデルや開発者に課す義務と、サービスや運用者に課す義務と、特定の悪用（例えば生物兵器関連）に関する義務を、国ごとの重点配分を保ちながら接続する設計である。CBRN兵器の開発や拡散リスクの低減は、悪意ある非国家主体による脅威が米中双方の安全保障に直結するがゆえに、政治体制の違いを超えて技術的合意が可能な領域であろう〔注1〕。
　その際に最も重要なのは、用語の翻訳である。安全、管理、コントロール、信頼できる（trustworthy）といった語は、政治的にも技術的にも意味が揺れる。揺れを放置したまま合意文書を作ると、合意はできても実装で破綻する。逆に、用語を詰めすぎると合意ができない。ここには、国際法でお馴染みの建設的曖昧さ（constructive ambiguity）の誘惑がある〔注10〕。曖昧さで合意し、運用で擦り合わせるという戦略である。ただしAIの技術進歩が速い以上、運用まで先送りする時間が残っているかは慎重に見極める必要がある。
　日本の実務家や研究者にとっての含意を二点だけ述べる。第一に、コンプライアンスは単一の正解ではなく、複数の規制ロジックの上に設計すべきである。モデル側のリスク管理（評価、レッドチーミング、計算資源の把握）と、出力側の管理（表示、通報、権利侵害対応）を二層で持つほうが頑健である。第二に、国際協力を語る際には、理念（principles）よりも実装（implementation）を先に語ったほうがよい局面がある。誰が、何を、どのタイミングで、どんな証拠（evaluation、監査ログ等）で示すのか。こうした泥臭い設計が、結局は協力を成立させる。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。