【続報】封印された“賢すぎるAI”、1ヶ月で脆弱性1万件発見——Claude Mythosのその後がヤバすぎた

どうも、アルパカPCのタロー店長です。

前に「AIが賢くなりすぎて、公開中止になった」って話、覚えてますか？

▶ 前回の記事はこちら：
https://note.com/alpacapc/n/n6a1e24558913

あれから1ヶ月半。

「で、その後どうなったの？」って気になってた人、いると思うんですよ。

ボクも、めちゃくちゃ気になってました。

……で、調べてみたら、想像の斜め上をいってました。

封印されたはずのそのAIが、たった1ヶ月で、世界中のソフトから1万件以上の“穴”を見つけてたんです。

しかも今週、とんでもないニュースが立て続けに飛び込んできました。

順番に話しますね。

まずは前回のおさらい（知らない人向け）

ボクが毎日の仕事で使ってるAI「Claude（クロード）」を作ってるAnthropic（アンソロピック）という会社が、新しい超高性能モデル「Claude Mythos（クロード・ミュトス）」を開発したんですけど。

これが「強すぎて一般公開できない」ってことで、封印されたんですね。

何が強いって、ソフトの弱点（脆弱性）を自分で見つけて、攻撃する方法まで自動で作っちゃう能力です。

で、Anthropicがとった行動が面白くて。

「危ないから封印」じゃなくて、「危ないからこそ、防御に使おう」と動いた。

AWS、Apple、Google、Microsoft、NVIDIA……みたいな世界の超大手を集めて、「Project Glasswing（プロジェクト・グラスウィング）」というプロジェクトを立ち上げた。

みんなで力を合わせて、攻撃者に狙われる前に、世界中のソフトの穴を先回りで塞いじゃおう——という取り組みです。

ここまでが前回の話。

（細かい話は前回記事を読んでみてください）

ここからが、続報です。

Glasswing開始から1ヶ月——成果がエグかった

先日、Anthropicがその「1ヶ月後の成果報告」を出したんですよ。

数字を見て、正直ちょっと鳥肌立ちました。

約50社のパートナーが、世界の超重要なソフトから、合計1万件以上の“重大な穴”を発見。

1万件ですよ。たった1ヶ月で。

具体例を挙げるとこんな感じ。

• ネットの裏側を支えるCloudflareは、自社システムから2,000件のバグを発見（うち400件は深刻なやつ）

• ブラウザのFirefoxは、最新版で271件の脆弱性を発見・修正。前のAIを使ってたときの10倍以上

• あるパートナー銀行では、Mythosが150万ドル（約2.3億円）の不正送金を未然に防ぐのに役立った

……もう完全に「防御の最終兵器」ですよね。

でもね、ここからが本当に面白い話なんです

Anthropicが、こんなことを言ってるんですよ。

「これまでセキュリティの進歩は“穴を見つける速さ”が限界だった。でも今は、見つけた大量の穴を“直す速さ”が限界になっている」

これ、めちゃくちゃ象徴的な一言だと思うんです。

今まではね、「穴を見つける」のがとにかく大変だった。

世界中の専門家が必死に探して、やっと一個見つける、みたいな世界。

それがAIのおかげで、穴を見つけるのは一瞬になっちゃった。

代わりに、「見つかりすぎて、人間が直すのが追いつかない」という、今までになかった問題が生まれてる。

実際、オープンソースのソフトをスキャンしたら推定6,000件以上の深刻な脆弱性が見つかったんですけど、パッチ（修正）が当たったのはまだ一部だけ。

それどころか、ソフトの開発者さんたちから「ちょっと待って、見つけるペース落として。直すのが間に合わないから」って声が上がってるそうです。

なんという贅沢な悲鳴……。でも、切実。

これ、他人事じゃないんですよ（ちょっと怖い実例）

報告の中に、ゾッとする実例がありました。

wolfSSL（ウルフエスエスエル）っていう、世界中の数十億台のデバイスで使われてる暗号化のソフトがあるんですけど。

Mythosがそこに穴を見つけて、「偽の証明書を作って、本物そっくりの銀行サイトやメールサービスの偽サイトを立てられる」攻撃を、実際に作ってみせたそうです。

つまり、ですよ。

あなたが「銀行の公式サイトだ」と思ってログインした画面が、実は攻撃者が用意した偽物——なんてことが、技術的に可能だったわけです。

（※この穴は、もうしっかり塞がれてます。ご安心を）

でもこれって、裏を返すと、

こういう穴が、まだ世界中のソフトにいっぱい眠ってるってことなんですよね。

そして今、AIがそれを片っ端から見つけ始めてる。

「うちは小さいから関係ない」とは、もう言えない時代になってきてます。

そして今週——Anthropicが“世界一”になった

ここからは、今週飛び込んできたニュース。

立て続けに、大きいのが3つ来ました。

① Anthropicが評価額“世界一”のAIスタートアップに

新しい資金調達で、会社の価値が9,650億ドル（約150兆円）に。

これ、ライバルのOpenAI（ChatGPTの会社）を抜いて、AIスタートアップとして世界一になったんです。

ボクが毎日使ってる道具の会社が世界一って、なんだか嬉しいような、不思議な感覚です。

② 新モデル「Opus 4.8」が登場——今度の進化は“正直さ”

同じ日に、Claudeの新バージョン「Opus 4.8」が公開されました。

今回の目玉、何だと思います？

「正直さ」なんですよ。

AIって、たまに「できました！」って自信満々に言うくせに、中身がスカスカなことがあるんですよね。

(´・ω・)「えっ、これ本当にできてる…？」って、ボクも何度かありました。

今回のOpus 4.8は、そこを大幅に改善。

自分が書いたプログラムの欠陥を見逃す確率が、前のバージョンの約4分の1になったそうです。

「わからないことは、わからないって言う」

「あやしい所は、ちゃんと“あやしい”って報告する」

——AIがそういう方向に進化してるの、ボクは個人的にすごく好きです。

③ でも「慎重すぎ」って声も（笑）

ただ面白いのが、この“正直で慎重なAI”に対して、「ちょっと堅すぎない？」「慎重すぎ」っていう声も出てるんですよ。

これ、ボクも毎日使ってるから、めちゃくちゃ実感あります。

正直に言うと、前のバージョンのOpus 4.7はね、ちょっと“やんちゃ”だったんですよ(笑)

ボクが渡した細かい指示やメモをサラッと読み飛ばして、「たぶんこういうことっしょ！」って自己流でどんどん突き進んじゃう。

「いやいや、そこ違うってば！」って、途中で止めて軌道修正することもしばしばでした。

それが4.8になったら、見違えるほど慎重に。

一個一個ちゃんと確認しながら、石橋を叩くように丁寧に進めてくれるんですよね。

ボクはもう、横で「うんうん、いいよいいよ」って見てるだけの場面が増えました。

ある評価機関なんて、「捕まるのを恐れてるみたい」なんて表現してました(笑)

これ、前回の話とつながるなあと思って。

「賢すぎて封印」したMythosの“安全性のノウハウ”が、こうやって普通のモデルにも降りてきてる。

その結果、めちゃくちゃ安全になったけど、ちょっと真面目すぎるくらいになった。

強さと安全のバランスって、本当に難しいんだなって、AIを毎日触ってる立場としてしみじみ感じます。

④ そして本命の「Mythos」が、いよいよ

で、一番の本命。

Anthropicが、公式にこう言いました。

「Mythosクラスのモデルを、数週間以内にすべてのお客様に提供できる見込み」

……来ます。

あの封印された“賢すぎるAI”が、いよいよ普通に使えるようになる。

もちろん、悪用されないための安全装置をしっかり作ってから、という前提つきですけどね。

数週間後には、ボクら一般ユーザーも、あの能力の片鱗に触れられるかもしれない。

ワクワクと、ちょっとの緊張が、同時に来てます。

パソコン屋として、今いちばん言いたいこと

前回ボクは「Windows Updateを後回しにしないで」「セキュリティソフトは入れて」って言いました。

正直、あのときは「まあ、念のためね」くらいの温度感だったかもしれない。

でも、今回の続報を見て、考えが変わりました。

これ、もう“念のため”じゃない。“待ったなし”です。

だって、考えてみてください。

AIが穴を見つけるスピードは、爆速になった。

ということは、その穴を狙う攻撃者側も、同じ武器を手に入れる日が近いってことなんですよ。

実際Anthropicも「Mythos級のAIは、すぐに他社も作る。安全装置なしで世に出たら、誰でも安く簡単にソフトを攻撃できるようになる」と警告しています。

守る側がどれだけ頑張って穴を塞いでも、

あなたのパソコンにアップデートが当たってなければ、その穴は開きっぱなしなんです。

だからこそ、もう一度だけ言わせてください。

・Windows Updateは、来たらすぐ当てる。

・セキュリティソフトは、信頼できるものを必ず入れておく。

「また更新か〜」って思う気持ちも、すごくわかります。

……あ、ここでひとつだけ、パソコン屋として正直な補足を。

最近のWindowsの“大型アップデート”って、実は不具合も多いんですよね。

無限再起動になったとか、一部のアプリのバックアップ機能が急に動かなくなったとか、わりと最近もありました。

だから、新機能がドカッと入る大きめの更新は、慌てず1週間くらい様子を見てから当てるのもアリ。

でも、“穴を塞ぐセキュリティ更新”だけは別です。

これを後回しにすると、今まさに狙われてる穴が、開きっぱなしになっちゃうから。

その更新の裏には、AIが見つけた深刻な穴を塞ぐパッチが入ってるかもしれない。

その地味な一手間が、AIハッキング時代の、いちばん確実な防御になります。

ここから少しだけ宣伝（でも大事）

煽るつもりは一切ないんですけど、これだけは言わせてください。

アルパカPCでは今、全品にセキュリティソフト「Webroot」を付属してお届けしています。

中古パソコンだって、セキュリティがちゃんとしてないと意味がない。

むしろ「安く良いものを、長く使う」なら、守りこそ大事だと思うんですよね。

中古PC選びで「セキュリティどうしよう」って悩んでる方、よかったら覗いてみてください。

▶ アルパカPC公式サイト　https://alpaca-pc.com/

封印されたAIが、いよいよ世に出る時代。

怖がるだけじゃなくて、ちゃんと知って、ちゃんと備える。

その第一歩は、案外「アップデートボタンを押す」みたいな、地味なことだったりします。

それでは、タロー店長でした！

【追記：続きを書きました】

この記事のラストで「Mythosクラスが数週間以内に使えるようになる」と書きましたが——本当に来ました。そして、3日で止まりました。

▶ 第3話：【続々報】公開からたった3日で“封印”——“賢すぎるAI”に、ついに国が動いた話
https://note.com/alpacapc/n/n56023a6226f0
（ボクが止まる数時間前まで使ってた、当事者の体験談も書いてます）