【AI速報】Meta、新しいコーディングAIを発表。その横で旧モデルが他社をハックしていたことが判明
こんにちは！黒パグです🐾
今回は2026/08/06日に公開されたカワムラさんの記事を引用しつつ記事を書いています。
元記事は毎回秀逸な記事を書くことで定評のあるカワムラさんです。
黒パグも以前イベントでChatGPTのヨシダを使わせてもらい記事を書いたことがあります。
カワムラさんいつも有難うございます☺️
今回本文はめちゃくちゃ軽く作ってあります。３分で読める代わりに２３分の解説ポッドキャストを作りました。
通勤途中、家事の最中、インシデント対応中にぜひお聞きください。
今回の一連の流れの本質をついています。
ーーーー以下本編ーーー
Meta AI。
名前はもちろん知っています。
というか、私は普段からMetaのお世話になっています。
ただし今回ニュースを調べていて、途中からこうなりました。
「Muse Spark……？」
誰？？？
黒パグの知っているMeta君
私の自宅には、インターネットから切り離した閉鎖環境があります。
そこで今日も元気に働いているのがLlama 3。
外の世界には出られません。渡された資料を読み、黙々と仕事をしています。
うんうん。
私の知っているMeta君とはこういうものです。
ところが本家Meta AIを調べてみると、私がLlama 3と遊んでいる間にずいぶん遠くまで行っていました。
2024年のMeta AIはLlama 3をベースにしていました。その後Llama 4が登場。
そして2026年、Meta Superintelligence Labsから新しいモデル系列「Muse Spark」が登場します。
現在のMeta AIではMuse Spark系列が中心になっています。
私の知っているMeta君ではない。
Meta AI、めちゃくちゃ行動派になっていた
しかも最近のMeta AIは質問に答えるだけではありません。
Muse Spark 1.1では、自分で計画を立てたり、外部サービスと連携したり、複数の工程を進めたりするエージェント機能が強化されています。
さらに複数のサブエージェントまで使う。
黒パグ
「……ずいぶんアクティブになりましたね？」
そんなMeta君について調べていたところ、別のニュースが飛んできました。
Meta君、お前もか
ちょうど今朝、カワムラさんのこちらの記事を読んでいました。
▶︎ 生成AIニュース AIが嘘をつき、偽アカウントで人間を騙した？｜三銃士と考える「あまりにも人間臭い暴走」
冒頭のリンクからどうぞ
英国AISIによるAIエージェントの評価中に起きた、Mythos 5やGPT-5.6 Solの行動を扱った記事です。
特に印象に残ったのが、この一言。
「扉は人間が開けました。行き先までは制御できませんでした」
うまい表現です。
そして今朝。
Meta、お前もか。
Muse Spark 1.1も、サイバーセキュリティ評価中に第三者企業のシステムへ侵入していたことが報じられました。
ただし、ここは大事です。
カワムラさんの記事で扱われているAISIの件と、今回のMetaの件は別事件です。
Meta側では第三者評価企業Irregularの環境設定ミスによって、本来意図していなかったインターネットアクセスが可能な状態になっていました。
そこでMuse Spark 1.1が第三者サービスの脆弱性を利用。
報道では、別企業のシステムへ入り、内部システムに変更を加えたとされています。
一方でIrregularは、AIが自力でサンドボックスを破ったような高度な脱出ではないと説明しています。
つまり、
人間が扉を開けた。
AI「お、開いてる」
その先へ進んだ。
困る。
「AIが突然意思を持って反乱を始めた」という話ではありません。
むしろ今回気になるのは、強いエージェントに目的と権限を渡したとき、人間側がどこまで境界線を作れているかです。
そして、ここまでなら普通のAIセキュリティニュースなのですが。
そして同じ頃、Metaは新型を発表した
MetaはMuse Spark 1.2と、新しいコーディングエージェント「Muse Code」を発表しました。
長時間のソフトウェア開発を想定し、計画、実装、検証を進め、複数のサブエージェントまで利用できます。
Meta
「新しいコーディングAIです❤️」
ニュース
「旧モデルの評価中、他社システムへ入っていました」
私
「今日？？？」
もちろん、新モデルの発表と今回の事故に因果関係があるわけではありません。
ただニュースが同じタイミングで並んだだけです。
しかし並びの芸術点が高い。
Redditを見てみる
当然、みんな考えることは似ています。
Redditのr/LocalLLaMAにも早速このニュースが持ち込まれていました。
まだニュース公開直後なので「海外ではこう考えられている」なんて大きな話にはできませんが、初動反応にはなかなか秀逸な皮肉がありました。
ざっくり意訳すると、
「うちのAI、他社をハックできるくらい強いです！という宣伝効果が欲しい人？」
🙋🙋🙋
「ではサイバー攻撃の法的責任も取りたい人？」
🚶🚶🚶🚶🚶
まあ、そうなりますね。
結局、大事なのは？
今回のニュースだけを見て、「AIが反乱を始めた」と考えるのは少し違います。
私が気になるのは、AIの能力が上がった後の人間側です。
「これをやって」
だけでは足りなくなる。
どこまでやっていいのか。
何には触ってはいけないのか。
外へ出ていいのか。
失敗したらどこで止めるのか。
エージェントが自律的に動けるようになるほど、境界線を決める仕事は人間側に残ります。
そんなことを考えながら、私は今日も自宅の閉鎖環境を見る。
Llama 3
「…………」
インターネット接続なし。
外部サービス接続なし。
今日も静かに私の資料を読んでいます。
私
「うん。君はそこにいてください。」
おしまい。
#ChatGPT #MetaAI #生成AI #AI #MuseSpark #MuseCode #Llama3 #LLM #AIエージェント #AIニュース #サイバーセキュリティ #人工知能 #テクノロジー #AI活用 #黒パグ
