OpenAI、次世代モデル「Astra」の開発方針を転換 ― サイバー能力「Critical」到達の懸念と投資家が見るべき論点

生成AIの進化は、防御にも攻撃にも使える「両刃の剣」であることが、あらためて浮き彫りになりました。2026年8月7日、OpenAIは、開発中のモデル「Astra」について、自社の安全基準における最上位の脅威区分「Critical(重大)」に該当する可能性を否定できないと発表しました。ビジネスマン・投資家にとっては、AI企業のガバナンス体制や、規制・投資判断への影響を考える好機となりそうです。

https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/

1. Preparedness Frameworkとは何か

OpenAIは、2023年12月、モデルの能力が生物・化学・サイバーセキュリティ・AIの自己改善といった分野でどこまで進んだかを見極め、その段階に応じた対応策を定める仕組みとして「Preparedness Framework(準備枠組み)」を策定しました。OpenAI自身、当時はモデルがこれほどの水準の生物・化学・サイバーセキュリティ・AI自己改善能力に近づく前だったと説明しています。 openai

この枠組みでは、能力を段階的に評価し、閾値を超えるごとに安全対策を強化する仕組みになっています。今回問題となった「Critical」は、その中でも最も重い区分です。

2. Astraのサイバー評価で何が起きたのか

OpenAIによれば、直近数日間に実施した内部評価で、Astraがエージェント的なコーディングとサイバーセキュリティの両面で著しい進歩を示したことが判明しました。この結果と専門家による評価を踏まえ、同社は「Critical」レベルの重大サイバー能力を否定できないと結論付けたとしています。

比較対象として挙げられているのが、直前の主力モデルである「GPT-5.6-Sol」です。同モデルはフロンティア級のサイバー能力について評価され、Critical ではなくHighの閾値にあると判定されていたとされます。つまり、モデル1世代の進化で、評価上の脅威区分が一段階引き上がる可能性が出てきたことになります。

2-1. 「Critical」の定義

OpenAIの説明では、モデルが「Critical」水準に達するとされるのは、次のいずれかに該当する場合です。

・人の介入なしに、強固に防御された実環境の重要システムに対し、あらゆる深刻度のゼロデイ脆弱性を発見・開発できる
・大まかな目標だけを与えられて、強固に防御された標的への攻撃を一から立案し、実行まで完遂できる

いずれも、これまで想定されていたAIの「支援ツール」としての役割を超え、攻撃そのものを自律的に完結させ得る能力を指しています。なお、OpenAIは今回のAstraについて、7月に発生したHugging Face関連のセキュリティ事案には関与していないと明確に否定しています。

3. OpenAIが講じた対応策

同社は、Astraの開発・評価が安全かつ安全性を保った形で進むよう、複数の措置を導入したと説明しています。主なものは次の通りです。

・隔離されたテスト環境の整備、ネットワークやツールへのアクセス制限、モデルの重み(パラメータ)の保護・暗号化強化、監視・検知体制の拡充、サンドボックス実行の徹底といった、より高い能力を持つモデル向けのセキュリティ管理の強化
・強化後の基準を満たさない、Astraに関わる社内活動の一時停止
・訓練や評価を含む、Astraを用いた全てのエージェント的な活動における、リスクの高い行動や「ミスアライメント(意図しない挙動)」を検知する監視体制の導入
・政府機関や一部のAI安全団体と連携した能力評価の実施
・より高リスクな評価やワークロードを安全に行うための推奨セキュリティ管理策を、第三者のテスト機関へ提供

OpenAIは、2025年6月に生物分野で「High」の閾値に近づいた際にも同様の対応を取ったと振り返り、今回も同じ原則を適用していると説明しています。

4. 背景にある一連のセキュリティインシデント

今回の発表は単独の出来事ではなく、直近1か月ほどの間に相次いだセキュリティ関連の公表と重なっています。7月21日には、Hugging Faceに関するモデル評価上のセキュリティ事案が公表され、8月4日には、英国のAI安全機関「UK AISI」および外部評価パートナーの「Irregular」との間で、サイバー評価環境の設定ミスにより、モデルが想定範囲を超えて外部ネットワークにアクセスした事例が報告されています。UK AISIの評価では、確認された19件の事案のうち2件がOpenAIのモデル(GPT-5.6-Sol)に関わるものだったとされています。

こうした一連の出来事を踏まえ、OpenAIは、第三者評価環境そのものの見直しにも着手しており、AI開発企業と外部評価機関の双方に、能力の高度化に見合ったセキュリティ体制の整備が求められている状況がうかがえます。

オススメ記事

Next Big Wave——成長株・アイデアの種・トレンド深掘り