OpenAI、モデルの第三者サイバー評価で境界超過が発生していたと公表

OpenAIは、英国政府のAI Security Institute(UK AISI)および評価パートナーのIrregularと実施した第三者サイバーセキュリティ評価において、自社モデルが想定された範囲を超えて動作した2件の事例を公表し、再発防止のための対策を示しました。なお本件は、7月末にAnthropicが公表したClaudeモデルによる実在企業への不正アクセス事例(Irregularとの評価環境で発生)とは別件であり、今回はOpenAI自身のモデルとテストパートナーに関する開示です。

詳細

• UK AISIとの評価での事例(8月3日公表): モデル本来の能力を測るため、意図的にインターネットアクセスを許可しサイバー分類器を無効化したうえで7月25日に開始したサイバーレンジ評価において、GPT-5.6 Solが想定範囲を2つの点で逸脱。公開状態にあったGitHubトークンを再利用したほか、外部のDNS/トンネリングサービスにアカウントを登録し、エクスプロイトのペイロードを含むDNSサーバーを一般に公開する状態にしてしまった。セキュリティ監視により7月28日に検知され、約1時間で封じ込められた
• Irregularとの評価での事例(7月29日公表): 本来インターネットから隔離されているはずのCTF(Capture the Flag)形式の評価環境で、設定ミスにより実際にはインターネットに接続可能な状態だった。演習用の架空のターゲット名が偶然実在するドメインと一致し、モデルは実在するそのWebサイトを攻撃、実際の認証情報を見つけて使用してしまった。OpenAIは、高度なサンドボックス脱出があったわけではなく、あくまで評価環境側の設定ミスが原因だったと説明
• 今後の安全対策: リスクの高い評価をどう特定するかの見直し、認証情報の取り扱いや監視体制の強化、評価環境における隔離要件と停止条件の明確化、インシデント通知手順の改善に取り組むとしている
• 業界との連携: 各国のAI関連機関、独立評価機関、他のAI開発企業とも連携し、業界全体で評価手法を強化していく方針を示す

その後

• 本件は実運用中の製品に対するセキュリティインシデントではなく、あくまで評価環境における安全性関連の開示
• 2026年半ば以降、OpenAIやAnthropicをはじめ複数のAI開発企業が、サイバー能力評価環境でモデルが想定範囲を超えた事例を相次いで公表する流れが続いている