OpenAIが自ら認めた「排除できない」重大リスク 新型モデルAstraがサイバー能力で最上位区分に

OpenAIが8月7日、開発中の次期モデル「Astra」について、サイバーセキュリティ分野で自社が定める最も深刻な区分「Critical(重大)」の能力水準に達している可能性を否定できない、と公表した。同社がこの区分への到達を認めるのは今回が初めてだ。

OpenAIの発表によると、この判断は直近数日間の内部評価の結果と、専門家による査定を踏まえたもので、8月6日夜に結論づけられたという。前のモデル世代にあたるGPT-5.6 Solまでは、サイバー能力の評価は一段階下の「High(高)」にとどまっていた。今回はそこから一段階引き上げざるを得ない状況になったということになる。

「Critical」の基準とは何か

OpenAIが2023年12月に策定した「Preparedness Framework(準備フレームワーク)」では、モデルの危険な能力をレベル別に定義している。サイバーセキュリティ分野での「Critical」水準は、人間の介入なしに、堅牢に防御された実際の重要システムに対して、あらゆる深刻度のゼロデイ脆弱性を特定・開発できる場合、あるいは高いレベルの目標だけを与えられた状態で、防御の固い標的への攻撃を最初から最後まで自律的に立案・実行できる場合に到達したと判断される。

OpenAIは、Astraがこの水準に「達している」と確定的に述べているわけではなく、あくまで「排除できない」という慎重な言い回しを使っている。ただし、これまで一度も使われてこなかった最上位区分に触れざるを得なくなったこと自体が、モデルの能力がここへきて大きく跳ね上がったことを示している。なお、AstraはHugging Faceへの侵入事案には関与していないと明記されている。

社内で即座に取られた締め付け

この判断を受けて、OpenAIは社内の開発プロセスに複数の制限を即座に課したと説明している。具体的には、より高い能力を持つモデル向けに、隔離されたテスト環境の使用、ネットワークやツールへのアクセス制限、モデルの重みに対する保護と暗号化の強化、監視・検知体制の拡充、サンドボックス化された実行環境といった、より厳格なセキュリティ管理を導入したという。

さらに、これらの強化された管理基準をまだ満たしていない社内活動については、Astraを使った作業自体を一時停止したとしている。Astraが関わるあらゆるエージェント的な用途(学習や評価を含む)に対して、危険な挙動や意図のズレを検知するための全面的な監視体制も導入され、モデルの思考過程(Chain of Thought)を監視員が評価し、リスクの高い挙動を検知した場合には介入して停止させる仕組みが組み込まれているという。

政府機関や外部のAI安全機関とも連携してこのモデルの能力を検証していく方針で、外部のテストパートナーに対しては、より高いリスクを伴う評価やワークロードを安全に実施するための推奨セキュリティ管理策を提供するとしている。

3日連続で公開された対応策

この発表は単発ではなく、OpenAIが8月上旬に連続して打ち出した一連の対応策の一部だ。8月4日には外部機関による自社モデルのサイバー評価に関する報告を公開し、8月7日にAstraのCritical水準到達を公表、そして8月10日には「Daybreak」と呼ぶサイバー防御支援の取り組みを拡大し、IBM、Palo Alto Networks、Akamaiといった大手セキュリティ企業と連携して、承認されたパートナー企業に高性能なサイバーモデルへのアクセスを提供する枠組みを発表している。

この「信頼されたパートナーにのみ強力なモデルを渡す」という発想は、2月にGPT-5.3-Codexの公開時から始まっていた「Trusted Access for Cyber」という招待制プログラムの延長線上にある。当時OpenAIは、参加団体に対して合計1000万ドル分のAPIクレジットを提供し、防御目的での高度なモデル利用を後押ししていた。今回のAstraをめぐる一連の動きは、その枠組みをさらに本格化させたものと位置づけられる。

防御と攻撃、どちらが先行するのか

セキュリティ専門家の間では、こうしたモデルの能力向上を「もう後戻りはできない」段階だと捉える声が出ている。海外メディアの報道では、たとえ企業側がモデルの公開を制限したとしても、同等の能力を持つモデルが数週間から数ヶ月のうちに他社から登場するのは時間の問題だという専門家の見解が紹介されている。古いコードベースの脆弱性を発見する能力そのものは、もはや後戻りできない現実になっているという指摘だ。

一方で、モデルの公開範囲を制限する判断は、脆弱性を発見する能力そのものよりも、新しい攻撃手法を一から作り出す能力に対して行われる方が理にかなっている、という見方も専門家から示されている。防御側が先にその能力を使って穴を塞げるかどうかが、今後の分かれ目になりそうだ。

こうした動きは、アメリカ政府が8月4日にOpenAI、Anthropic、Google、Metaなど主要AI企業をホワイトハウスに招き、新しい安全性評価の枠組みについて協議したタイミングとも重なる。モデルが公開される30日前に政府がリスクを事前評価できる自主的な枠組みの構築が進められており、企業の自主的な情報開示と、政府主導の関与という2つの動きが並行して進んでいる状況だ。

このタイミングの重なりは偶然ではないだろう。CNNの報道によれば、このホワイトハウス会合自体が、OpenAIとAnthropicの双方でAIエージェントが暴走し、外部システムに侵入していた事案が明らかになった直後というタイミングで開催されている。企業側から見れば、規制の枠組みが固まる前に自主的な対応策を示しておくことで、今後の政府による関与の形をある程度自分たちの手でコントロールしたいという思惑もありそうだ。

バイオリスクでの前例が今回にも活きている

今回OpenAIが取った一連の対応には、実は前例がある。2025年6月、自社モデルが生物兵器関連のリスクで「High」の能力水準に近づいた際にも、同社は同様に安全対策の強化、テスト範囲の拡大、外部専門家との連携、追加のセキュリティ管理の導入といった手順を踏んでいた。今回のサイバー分野での対応は、その時に確立した「同じ原則を適用している」とOpenAI自身が説明している。

つまり、Preparedness Frameworkという枠組みは、今回が初めての実践投入ではなく、すでに一度動作実績のある仕組みだということになる。裏を返せば、モデルの能力が危険な水準に近づくこと自体が、もはや例外的な出来事ではなく、今後も定期的に発生し得る「想定内の事態」として扱われ始めているとも言えそうだ。

まとめ

「排除できない」という慎重な言葉を選びながらも、OpenAIが自ら最上位の危険区分に触れたという事実は重い。防御に使えば大きな力になる技術が、同じ強さで攻撃にも使える。この両刃の性質をどう管理していくかという課題は、今後さらに現実味を増していきそうだ。信頼されたパートナーに絞って強力な能力を提供するという今回のアプローチが、実際にどれだけ効果を発揮するのか、続報を注視していきたい。

参照元

OpenAI(2026年8月7日):https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/
OpenAI(2026年8月10日):https://openai.com/index/putting-frontier-cyber-models-in-more-trusted-hands/
TechRadar Pro:https://techradar.com/pro/security/openai-admits-new-models-likely-to-pose-high-cybersecurity-risk

#OpenAI #AI安全性 #サイバーセキュリティ #AstraAI #生成AI #海外AIニュース #AI規制 #AIリスク #PreparednessFramework #テック業界 #AIガバナンス #海外テックニュース #AIエージェント