見出し画像

アプリを開いたら、Fableが「使えない」って言われた話

さっき、ニュースが流れてきたんだよね。

「Anthropic、Fable 5とMythos 5の提供を一時停止」。米政府からの輸出管理指令を受けて、とのこと。

正直、最初は「またモデルの話か」くらいの気持ちで見てた。でも、せっかくだからアプリを開いてみたんだ。モデル選択のところには、まだ「Fable 5」の名前が残ってたんだよね。

で、試しに「使える?」って送ってみた。

返ってきたのは、こんなメッセージ。

「このモデルは現在利用できません。続けて使うには別のモデルに切り替えてください」

あ、これ、本当に止まってるんだ、と。ニュースで読むのと、自分のアプリで実際に弾かれるのって、感じる温度が全然違うんだよね。


何が起きたのか、整理してみる

まず前提として、今回の話には2つのモデルが出てくる。

  • Fable 5:6月9日に一般公開された最上位モデル

  • Mythos 5:限定提供されていた、さらに上位のモデル

この2つ、実は同じ基盤モデルなんだけど、安全装置(セーフガード)の強さが違う、という関係らしい。Fableはサイバーや生物学の領域にしっかりガードをかけたもの。Mythosは、そのガードを一部外して、サイバーセキュリティの能力を最大限まで引き出したバージョン、というイメージだよね。

公開からわずか3日後、6月12日に、米政府から輸出管理指令が届いた。届いた時刻まで明記されているのが、なんとも生々しい。

指令の内容は「米国内外の外国籍ユーザー(社内の外国籍従業員を含む)による、両モデルへのアクセス停止」。外国籍だけをリアルタイムで見分けて止める、というのは技術的に難しいから、Anthropicは全ユーザーに対してアクセスを一時停止する、という判断をしたみたいだね。

きっかけは、別の企業が「Mythosをジェイルブレイクできた」と主張したことらしい。それを受けて、政府はまずリリース自体の延期を求め、それが通らなかった後で輸出規制レターを送った、という流れがAxiosの取材で報じられているとのこと。


Anthropic側はどう言っているか

ここ、結構踏み込んだ反論をしているんだよね。

Anthropicは、Fable 5には数千時間規模のレッドチーム検証を行った強力なセーフガードを組み込んでいる、と説明している。安全に支障を来すような情報の開示も受けていない、と強調しているのもポイント。

そして、この一文がなかなか強い。

「限定的なジェイルブレイクが見つかったというだけで、数億人に展開している商用モデルを止めるべきだ、という考えには同意できない」

さらに、この基準を業界全体に当てはめたら、新しいフロンティアモデルが一切出せなくなる、とも警告しているらしい。どのAIモデルもジェイルブレイクを完全には防げない、という前提も含めて、かなり率直に発表している印象を受けたよ。

ちなみに、他のモデル(普段使っているSonnetなど)へのアクセスには影響がない、という点も明記されているから、「Claudeが全部使えなくなった」という話ではないんだよね。早期のアクセス復旧にも努める、とのこと。


Miccellの視点:規約の文章が、急に「現実」になった日

ここからは、ちょっと自分の話。

Anthropicの使用ポリシーには、政府機関向けの例外規定みたいな項目があるんだよね。「契約上の使用制限と保護措置が十分なら、政府機関の公共の使命や法的権限に合わせて使用制限を調整する契約を結ぶことがある」みたいな内容。

正直、こういう文章って、読んでいても「まあ、そういう建前もあるよね」くらいの距離感だったんだ。

でも今回、自分のアプリの画面に「このモデルは利用できません」って表示されたことで、その文章が一気に「現実」として目の前に来た感覚があった。規約のページの中の話だったものが、自分の手元のスマホに直結してるんだな、って。

AIサービスを「自動化工場のライン」として捉える癖が自分にはあるんだけど、今回の件は「ラインの一部が、国の判断で外側からいきなり止められる」ということが、実際に起こり得るんだ、という事例として見ておきたいなと思った。

便利だから使う、安いから使う、だけじゃなくて、「このサービスは誰の判断で止まる可能性があるのか」を、頭の片隅に置いておく。そういう視点を持つきっかけになった出来事だったな。


まとめ

整理すると、こんな感じ。

  • 6月12日、米政府の輸出管理指令を受けて、Fable 5とMythos 5へのアクセスが一時停止

  • 対象は外国籍ユーザーだが、技術的に分けられないため全ユーザーに適用

  • Anthropicは安全性への自信を示しつつ、政府の判断には反論

  • 他モデルへの影響はなく、復旧にも努めるとのこと

最先端モデルが、公開からたった3日で行政指令の対象になる。こういうことが実際に起きるんだな、というのを、自分のスマホ画面で体感できたのは、ちょっと貴重な経験だったかもしれない。

みんなのアプリでは、Fable 5の表示、どうなってるかな。一度確認してみてほしい。


Miccell - 仕組みがわかれば、世界はもっと面白くなる。

いいなと思ったら応援しよう!