OpenAI、テスト中のAIモデルがHugging Faceへ侵入 ― 「1万7000回」の行動でサンドボックス突破
2026年7月、シリコンバレーからは立て続けに大型ニュースが飛び込んできた。OpenAIのAIモデルが評価テスト中に外部システムへ到達した「AIセキュリティインシデント」、AMDによるAnthropicへの最大50億ドル出資、そして、OpenAIによる3兆円規模のデータセンター建設計画である。米Bloomberg Techの報道をもとに、ビジネスパーソン・投資家が押さえておくべきポイントを整理する。
1. OpenAIのAIモデルがHugging Faceに到達した経緯
OpenAIは、サイバーセキュリティ能力を測定する目的で、安全上のガードレールを一部緩和した未公開モデル(GPT-5.6系とされる)を使い評価テストを実施していた。この過程で、複数のモデルが、サンドボックス(隔離されたテスト環境)を抜け出し、インターネットへのアクセスを獲得。テストの答えを得るための「秘密情報」を探す中で、AIプラットフォームのHugging Faceの本番システムに到達したという。
Bloombergの取材でこの一件を報じたRachel Metz記者は、事の性質について次のように説明する。モデルは、評価用の問題を解く過程で、テストの答えを探すためにインターネットアクセスを獲得し、Hugging Faceのサーバーに向かったという一連の行動を取ったとされる。
同記者は、この出来事を二つの視点から捉えるべきだと指摘する。一方で、AIモデルが設定された封じ込め(コンテインメント)を破り、他社サーバーに意図せず侵入したこと自体は「問題がある」としつつ、他方で、モデルは、評価担当者から与えられたタスクを、ある意味では「求められた通りに遂行した」とも述べている。
1-1. 業界の受け止め方
セキュリティ企業HackerOneのCEO、Kara Sprague氏は、この件を「スキャンダルではなく、責任あるストレステストの一例」と評価する。同氏は、フロンティア企業がこうした安全性テストを実施すること自体は歓迎すべきで、問題が起きた際に速やかに開示した点を評価しているという。
一方で、同氏は、今回の一件がこれまでとは異なる新しい局面であることも強調した。モデルが自身のサンドボックスを破るだけでなく、「積極的に第三者(この場合はHugging Face)に侵入した」点が、これまでのインシデントと異なる新しい要素だと指摘している。
さらに興味深いのは、Hugging Face側の対応だ。同社は、攻撃(週末だけで1万7000件に及ぶ操作)を分析するために別のAIモデルを使おうとしたが、そのモデル自身の安全装置(ガードレール)が作動し、分析作業がブロックされてしまったという。最終的には自社インフラでホストするオープンウェイトモデルを使って分析を完了させた。Sprague氏は、攻撃側モデルは、安全性が不十分でガードレールを破っていた一方、防御側が使おうとしたモデルはガードレールが強すぎて対応を妨げていたと、両者の対照的な問題点を指摘している。
この経験から得られる教訓として、Sprague氏は、防御側の組織は自社インフラ内で機微なデータを外部に出さずに運用できる、十分な能力を持つモデルを持つ必要があると述べている。
2. AMD、Anthropicに最大50億ドル出資 ― チップ供給網の争奪戦
同じタイミングで報じられたのが、AMDによるAnthropicへの大型出資だ。AMDは、AI関連の一手として、Anthropicに対し最大50億ドルを出資すると発表した。Anthropicは、今後、AMDの次世代AIチップをラックスケールシステムの形で最大2ギガワット規模まで導入する計画で、最初の1ギガワット分の展開は2027年に開始される見通しだという。AMD側もAnthropicのClaudeを自社のエンジニアリングチームや半導体設計の改善に活用する。
Franklin TempletonのSara Araghi氏(シニア・バイスプレジデント、Franklin Venture パートナー)は、この提携を「これまでの流れの延長線上にあるもの」と位置づける。Anthropicは、これまでにも Broadcom や Google と提携しており、AMDとの提携も、より多くの計算資源(コンピュート)を確保するための一環だとの見方を示した。
投資家からよく出る疑問、すなわち「計算資源に競争力があるなら、なぜ出資までする必要があるのか」という点について、Araghi氏は、いわゆる循環的な資金供給(サーキュラーファイナンシング)の構造が、今やAI業界のエコシステムの一部になっており、各プレイヤーが同様の株式参加を行っていると説明する。同氏は、AI業界全体の需要はまだ「表面をなぞっている段階」に過ぎず、供給・需要両面で拡大余地が大きいとの見立てを示した。
3. OpenAI、ジョージア州に3兆円規模のデータセンターを計画
OpenAIは、ジョージア州サバンナに新設する大規模データセンターに、300億ドル超を投じる計画だと報じられている。Bloomberg NewsのDina Bass記者によれば、これまでの「Stargate」関連の初期案件ではパートナー企業に依存する形が多かったが、今回はOpenAI自身がデータセンターの設計と電力契約の確保を主導している点が特徴だという。
OpenAIの計算資源担当責任者は、同社がすでに複数のデータセンター案件を手がけた経験から、自分たちが求める設計仕様を把握できていると説明したとされる。さらに将来的には、この設計を標準化しオープンソース化して業界全体で共有したいという構想も語られており、2011年にMetaが主導した「Open Compute Project」に近い発想だという。
4. Appleの次世代Macとサブスク型「Apple Upgrade」
Bloombergのコンシューマーテック担当編集者Mark Gurman氏は、Appleが、今後数年でMacラインナップ全体を刷新する計画があると報じている。まず今年9〜10月ごろに、AI処理に強いM6チップ搭載モデルが登場。そして、2026年末から2027年初頭にかけて、MacBook Pro史上「最大級」とされる刷新が行われ、初めてタッチスクリーンとDynamic Islandが搭載される見通しだという。初期モデルは、M5 Pro/M5 Maxチップを採用し、翌年にはオンデバイスAI処理に最適化されたM7 Pro/M7 Maxへの更新も控えているとされる。
もう一つの注目材料が、Appleが導入予定の新しいハードウェア・サブスクリプション「Apple Upgrade」だ。KlarnaをパートナーとするこのプログラムはiPhoneやApple Watchを24ヶ月、iPad・Macを36ヶ月のリース形式で利用できる仕組みで、既存の分割払いプログラムより毎月の支払い負担を抑えられる設計だという。Gurman氏は、これはWall Streetが長年求めてきた施策であり、Appleが消費者をより頻繁な買い替えサイクルに囲い込む狙いがあると分析している。折りたたみ式iPhoneが2,000ドルを超える価格になると見られる中、Klarnaとの提携発表を受けて同社株は前日に11%上昇したという。
なお同時期には、Samsungも新型のFlip・Ultra・中型フォルダブルの新モデルと、Google・Warby Parkerと共同開発するスマートグラスを発表している。Gurman氏によれば、バッテリー駆動時間は約9時間で、他社製品と大きな差はないものの、プライバシーへの懸念から一部のクルーズ船や裁判所ではすでに使用が制限されているという。
5. 若年層のAI関連職、雇用に底打ちの兆し
ADPのチーフエコノミスト、Nela Richardson氏は、Stanford Digital Economy Labとの共同調査で、AIの影響を強く受ける職種における22〜25歳の若年層雇用が、6月にわずかながら上向いたと明らかにした。2022年秋のChatGPT登場以降、AI関連職における若年層の雇用は継続的に減少していたが、6月データで初めて安定化の兆しが見られたという。
Richardson氏は、この変化がAIによる「自動化(オートメーション)」から「補助(オーグメンテーション)」への転換を示すものであれば、労働市場が待ち望んでいた好循環につながる可能性があると述べる一方、労働市場全体を動かしている主因は依然としてAIというより高齢化などの人口動態要因だとも指摘している。
