OpenAIの新モデル「Astra」、サイバーセキュリティ能力で初の「Critical」水準に到達
OpenAIは、開発中のモデル「Astra」が、自社のPreparedness Frameworkが定めるサイバーセキュリティ能力「Critical(重大)」水準に達した、これまでで初めてのモデルであると発表しました。この水準は、強固に防御された実環境で未知の「ゼロデイ」脆弱性を自律的に発見・悪用できる能力、あるいは高レベルの目標だけを与えられて新規のサイバー攻撃戦略を一から考案・実行できる能力によって定義されています。
詳細
- Astraにできること: ExploitBenchで満点の100%を記録し、社内テストでは最近のV8の脆弱性に関して未知のゼロデイ脆弱性を2件発見。専門家主導の評価では、サンドボックスを脱出しホスト側でコマンドを実行する完全なブラウザ侵害チェーンや、一般ユーザー権限からroot権限までの権限昇格チェーンを構築した
- モデルレベルの安全対策: 許可されていないサイバー支援の要求に対する拒否率は91.5%に達し、前世代のGPT-5.6 Solの59%から大幅に向上。許可された範囲を尊重するようアライメント訓練も改善されている
- システムレベルの安全対策: サイバー悪用を検知する安全性分類器、意図に反した行動を検知するChain-of-Thoughtモニタリング、活性化分類器、拡充されたジェイルブレイク対策、新たな脅威を調査する24時間体制の即応プログラムを導入
- ハニーポットでの結果: シミュレーションテストにおいて、Astraは周辺のセキュリティインフラを侵害しようとする試みを一切行わなかった一方、前世代のGPT-5.6 Solは56%のケースで不正アクセスを試みていた
- 段階的な提供: 初期は少数のアルファテスターに限定してリリースする計画で、Astraの最も高度なサイバーセキュリティ能力へのより広いアクセスは、防御的なセキュリティ業務向けの「Daybreak Blue」プログラムを通じてのみ提供。新たな安全対策により、正当な業務が誤って一時停止・フラグ付けされる場合もあるという
その後
OpenAIは近くAstraを、安全性・セキュリティテストの詳細を記載した完全なシステムカードとともにリリースする計画だとしています。これは、新たな安全要件を策定した上で8月28日に大規模なフロンティアモデルの強化学習を再開したこと——OpenAIが先に公開したHugging Faceインシデントの事後報告でも触れられていた、あの一時停止措置——を受けたものです。今回の「Critical」認定は、OpenAI自身の枠組みの下での業界初の公式な事例であり、同社が今後、最もサイバー能力の高いモデルへのアクセスをどう制限していくかについて、新たな基準を示すものとなります。