突如、米政府がFable 5とMythos 5の国外ユーザーの禁止措置を施行

米国政府が12日（米国時間）、国家安全保障上の権限を理由に、Anthropicに対し外国籍者による「Claude Fable 5」と「Claude Mythos 5」へのアクセスを停止するよう求める輸出管理指令を発令。

この指令は米国内外を問わず、Anthropicの従業員も対象に含まれる。これを受けてAnthropicは9日に提供を始めたばかりの最上位モデルFable 5とMythos 5へのアクセスを直ちに停止され、ただしその他のモデルは引き続き利用できる。

Fable 5停止アラートがすでに出ていた

筆者のClaudeアカウントでもすでにFable 5モデルの選択ができなくなっていた。

「危険なAIは政府が止めろ」と言った男が、最初に止められた

たった3日の出来事だ。

6月9日、アンソロピックは最上位モデル「Claude Fable 5」を一般公開した。同社のAIの中でも最強クラス、サイバーセキュリティ能力が高すぎて非公開とされる「Mythos 5」に、強力な安全対策を被せて世に出したモデルだ。

その翌々日、CEOのダリオ・アモデイは規制強化を提言する。曰く、AIは航空機のように技術検査を義務づけるべきで、重大な安全リスクがある場合は政府が公開を強制的に停止する権限を持つべきだ、と。AI企業のトップが自ら政府に介入を求める、異例の提言だった。

そして6月12日（米国時間）午後5時21分。アンソロピックのもとに、米政府からの輸出管理指令が届く。内容は——Fable 5とMythos 5へのアクセスを、全外国籍ユーザーに対して即時停止せよ。アモデイが「政府にこの権限を持たせろ」と言った、まさにその権限が、数日後に自社の最新モデルへ向けて行使された。

頼んだ銃の最初の弾が、自分に当たった。

何が起きたのか

事実関係はシンプルだ。米政府は国家安全保障を理由に、外国籍者（米国内にいる人も、外国籍のアンソロピック社員も含む）によるFable 5・Mythos 5の利用を止めるよう命じた。コンプライアンス上、結果として全顧客への提供が即時停止に追い込まれた。それ以外のモデル——Opus 4.8やSonnet系——は影響を受けない。

日本も当然、外国籍ユーザーの国。昨日までFable 5で作業していた人が、今日になって突然弾かれたのはこのためだ。

普通ならここで「セキュリティ上の重大な欠陥が見つかったのだろう」と納得して終わる話だ。だが、アンソロピックが同日に出した声明を読むと、話はそんなに単純じゃない。むしろ、不気味なくらい単純だった。

「ジェイルブレイク」の正体

政府が問題視したのは、Fable 5の安全対策を回避する「ジェイルブレイク（脱獄）」手法だという。AIに本来禁じられた危険な能力を引き出す抜け穴——そう聞くと、さぞ高度なハッキング技術を想像する。ところが、アンソロピックが「指令の根拠と思われる」と確認した手法の中身は、こうだ。

「特定のコードベースを読ませて、ソフトウェアの欠陥を直させる」。

これだけだ。

コードを読んで、バグを見つけて、直す。これはサイバー攻撃ではない。むしろ逆で、世界中のセキュリティエンジニア——システムを守る防御側——が毎日やっている仕事そのものだ。AIにコードレビューを頼んだことがある人なら、誰でも一度はやっている操作と言ってもいい。

しかもアンソロピックは、この手法で引き出せた能力レベルは他社の公開モデル（OpenAIのGPT-5.5など）からも普通に得られるものだと検証済みだと主張する。Fableだけの特別な「上乗せ」は無い、と。

つまり、「コードを直させる」という防御側の日常業務が「脱獄」と認定され、数億人に展開済みの商用モデルが一夜で消えた。これが今回の構図だ。

この記事を書いているうちにclaudeは更新され、チャット欄右上にはアンソロピックからの声明文のリンクが記載されていた。

アンソロピックの反論は、三段構え

下記の声明でのアンソロピックの立場は、感情論ではなく論点が整理されている。読み解くと三つだ。

一つ目、根拠が薄い。 指令の書簡には安全保障上の懸念の具体的内容が書かれていなかった。示されたのは口頭の証拠のみで、その実演で出てきたのは以前から知られていた軽微な脆弱性が少数。いずれも単純で、回避手法など使わなくても他のモデルが発見できる程度のものだった。

二つ目、手続きが不当。 アンソロピックは「政府が危険な展開を止める権限を持つべき」とは確かに公言してきた。だがそれは、透明で・公正で・明確で・技術的事実に基づいた法定プロセスの一部として、という前提つきだ。今回の措置は、その原則のどれにも沿っていない。自分たちが求めたのはこういう振るわれ方ではなかった、という抗議である。

三つ目、基準が過剰。 狭い範囲の潜在的ジェイルブレイクが一つ見つかった程度で商用モデルを丸ごと回収するなら、同じ基準を業界全体に当てはめれば、すべてのフロンティアモデル提供者の新規展開が事実上止まる。完璧な脱獄耐性などそもそもどのモデルにも存在しない——これはFable 5公開時にアンソロピック自身が明言していたことだ。

そのうえで彼らは、安全対策の作り込みも強調する。完璧な防御が不可能だと認めるからこそ、ジェイルブレイクを「狭く」あるいは「作るのに高コスト」に追い込み、徹底監視で素早く潰す「多層防御」戦略を採った。Fableで顧客データの30日保持を義務づけたのも、コストを払ってでも脱獄を研究・緩和するためだ、と。

最後は、法的指令には従うが内容には同意できない、これは誤解であり一刻も早く復旧させる、という謝罪で締めている。

この話の、本当の怖さ

技術的な是非はいったん脇に置く。私がこの一件で背筋が冷えたのは、別のところだ。

判断の基準が、技術ではなく「誰がレバーを握っているか」で決まった。

「コードを読んで直させる」が脱獄になるかどうかは、コードそのものが決めるのではない。それを脱獄と呼ぶと決めた側に権力があるかどうかが決める。同じ操作が、防御側の手なら日常業務で、規制当局の書類の上では国家安全保障の脅威になる。行為は一つ、解釈は二つ、そして勝つのは権力を持っている方の解釈だ。

これは新しい現象ではない。王が教義を握れば離婚が神学になり、政権が言葉を握れば抗議が脅威になる。ヘンリー8世から現代まで、権力の作動原理は変わらない。今回はそのレバーが、たまたまAIモデルのオン/オフという形をしていただけだ。

そしてもう一つ。アモデイは正しかったのかもしれない。「政府は危険なAIを止める権限を持つべきだ」——理屈としては筋が通る。だが彼が見落としたのは、権限というものは、それを設計した人の意図どおりには振るわれないという、人類が何千年も学び損ねてきた一点だった。透明で公正なプロセスを求めても、渡した権限がその通りに使われる保証はどこにもない。むしろ、最初に試し撃ちされるのは、その銃を作った当人だったりする。

24時間以内に詳細を共有するとアンソロピックは言っている。続報を待ちたい。ただ、Fable 5が今夜中に戻ってくるかどうかより、私が気になっているのはこっちだ。——次に「これは脱獄だ」と誰かが指差したとき、その指は、本当に技術を指しているのか。それとも、レバーを指しているのか。