Anthropic CEOダリオ・アモデイ氏「オープンウェイトモデル禁止を主張したことはない」と明確に反論
Anthropicの共同創業者兼CEOであるダリオ・アモデイ氏は7月27日、自社ブログで「オープンウェイトモデルに関する我々の立場」と題した文章を公開した。ここ数日、業界内でくすぶっていた「Anthropicが中国製オープンウェイトモデル、あるいはオープンウェイトモデル全般の禁止を政府に働きかけている」との臆測に対し、直接反論した形だ。TechCrunchは、この発信を受けて速報を出し、アモデイ氏の立場を詳しく報じている。
1. 発端 ― Nvidiaフアン氏らの公開書簡
事の発端は、米政府内で一部当局者が中国製オープンウェイトモデルの米企業による利用を禁止することを検討していると報じられたことにある。これを受け、Nvidiaをはじめ、Hugging Face、Meta、Microsoft、Mistralなど名だたるAI企業が名を連ねる公開書簡が発表され、政策当局に対しオープンウェイトモデルへの「時期尚早な広範規制」を課さないよう求めた。この書簡は、Nvidiaのジェンセン・ファンCEOが自身のX(旧Twitter)アカウントでの初投稿として共有したことでも話題となった。同書簡は、中国について名指しはしていないものの、業界内の議論の背景には、中国のAI研究機関が米国企業から知的財産を「蒸留」と呼ばれる手法で不正に学習しているとの指摘がある。
こうした流れの中で、一部には、Anthropicが、自社ビジネスを守るためにオープンウェイトモデルの禁止を望んでいるとの見方も出ていたという。アモデイ氏は、今回のブログで、「Anthropicは、オープンウェイトモデルの禁止を提唱したことは一度もない」と明確に否定した。
2. アモデイ氏の立場 ― オープンウェイトは「公共財」
アモデイ氏は、危険な能力を持たないオープンウェイトモデルについて、計算資源のコスト以外は無償で提供され、企業や開発者、研究者に価値をもたらす「公共財」だとの見解を示した。そのうえで、保護主義的な禁止措置は、自身が本当に懸念している国家安全保障上のリスクには対処できないと説明している。
3. 二つの「悪夢のシナリオ」
アモデイ氏が最も懸念しているのは、次の二つのシナリオだという。これは半年前に公開した自身のエッセイ「The Adolescence of Technology(技術の思春期)」でも一貫して主張してきた内容だ。
一つ目は、権威主義的な政府――中でも中国共産党(CCP)が最も高い能力を持つとされる――が米国よりも強力なAIモデルを構築し、恒久的な軍事的優位の獲得や自国民への深刻な弾圧に利用するリスクだ。この懸念は、米政府内でも広く共有されており、バンス副大統領が過去にパリで、権威主義体制が軍事・諜報・監視能力の強化のためにAIを盗用してきたと警告したことや、米情報コミュニティの「2026年版年次脅威評価」が他の大国によるAIの進展が米国の経済的競争力と安全保障上の優位性を脅かしていると指摘したことにも触れている。アモデイ氏は、このリスクは、モデルがオープンウェイトかどうか、米企業に使われるかどうかとは無関係であり、最も危険なのはむしろ密かに訓練され、人民解放軍のドローンや国家安全部の監視・弾圧にのみ引き渡されるようなモデルかもしれないと述べている。
二つ目は、強力なAIモデルがサイバー攻撃や生物兵器攻撃に悪用されるリスク、そして、深刻なアラインメント上の問題を抱えるリスクだ。オープンウェイトモデルは、出所が中国かどうかを問わず、ガードレールの適用や利用状況の監視が難しく、一度公開されると撤回できないという特性上、閉鎖型モデルより高いリスクを持ちうるとの見方を示した。ただし、同氏は、米企業によるこうしたモデルの利用を禁止したところで、悪意ある行為者の多くは合法的な米企業ではないためこのリスクへの対処にはならないとも指摘している。
4. アモデイ氏が支持する3つの対策
これらの懸念に対処するため、アモデイ氏とAnthropicが一貫して提唱してきたのは以下の3つの措置だという。
第一に、中国への高性能チップおよびチップ製造装置の販売禁止と、密輸・抜け穴対策の強化だ。中国は国内での生産能力が限られており、スケーリング則の観点から、米国製チップなしには米国を上回る性能のモデルを構築できないとし、これが最も効率的かつ直接的な対処法だと説明している。
第二に、産業規模での「蒸留」行為の取り締まりだ。蒸留とは、既存モデルにゼロから学習させるよりもはるかに計算効率の良い手法で、中国が保有するチップ数以上の性能を持つモデルを構築し、事実上のチップ規制を部分的に回避する手段になっているという。アモデイ氏は、蒸留自体によって中国が米国と同等以上のAI能力を得られるわけではないとしつつも、この手法により中国のフロンティアが米国に数か月まで接近しうると指摘し、オープンウェイトモデルを公開している企業がこうした蒸留を行っている場合が多いことは事実だが、問題の本質はその企業が米国を追い越そうとする権威主義国家に支援されている点にあるとの考えを示した。
第三に、オープン・クローズドを問わず、十分な性能を持つすべてのモデルに対する義務的な安全性テストだ。アモデイ氏は、トランプ政権がこの方向に近年動いていることや、モデルの出自やオープン・クローズドの別を問わず最も高性能なモデルにこうしたテストを適用する業界側の提案が出てきていることを歓迎するとし、この考え方はほぼコンセンサスに近づいていると評価した。同氏は、こうしたテストが実効性を持つには中国を含む世界的な枠組みが必要になるとしつつ、生物兵器防止など一部の分野では中国自身の利益にもかなうため、限定的な協力の余地はあり得るとの見通しを示している。
5. 公開書簡への評価 ― 賛同と留保
アモデイ氏は、Nvidia主導の公開書簡について、オープンウェイトモデルが、AI経済へのアクセスを広げ、少なくとも一部の用途で競争を促進し、顧客により大きな裁量を与えるという点には同意するとした。蒸留への懸念は、自身が提案したのと同様の的を絞った法的・商業的枠組みで対処すべきだとの考えも共有している。
一方で、オープンウェイトモデルが、必ずしも防御策の開発を容易にする、あるいは能力への広範なアクセスが攻撃側より防御側に有利に働くという同書簡の前提には同意しないと明言した。むしろ逆の可能性も十分にあり得るとし、例として生物分野では攻撃側と防御側の間に強い非対称性が存在し、十分な能力を持つモデルがパンデミック級のウイルスを入手可能な材料から急速に兵器化できる一方、防御側の対応には(かつてのワープ・スピード作戦のように)何年もの実務的な取り組みが必要になる可能性を挙げている。こうした論点は事前に想定するのではなく、公開前の厳格なテストによって実証的に答えを出すべき問題だとの立場を示した。
