OpenAI、サイバー防御者を支援する青写真を公開、パートナー向けに一貫した安全基準も
OpenAIは「フロンティアAIの民主的ガバナンス」シリーズのパートII として、サイバー防御者を支援する青写真を公開しました。政府と産業界への提案をまとめたものです。関連投稿「Broad access through consistent standards」では、OpenAIモデルを提供するパートナーに求める安全対策の具体的な変更が説明されています。
詳細
- 防御者の窓: 高度な攻撃的サイバー能力が広く行き渡る前に、高度なAIを防御側に届ける機会は限られているとOpenAIは主張しています。
- 柱1 先進AIの安全とセキュリティ: フロンティアモデルとエージェントの保護責任の明確化、危険な挙動の検知、各組織の管理下にある運用での信頼できる停止手段の維持。
- 柱2 サイバーセキュリティの近代化: 防御者への高度なツール・訓練・技術支援、長年の弱点の是正、重要サービスの保護と老朽システムの置き換えへの投資。
- 柱3 強靭な公的機関: 政府による評価と独立した技術評価の強化、一貫したインシデント報告要件、連携した対応と復旧の改善。
- パートナー基準: ホスト事業者や再販パートナーに、OpenAIと一貫した安全対策の維持、違反の調査、懸念への対処、執行の連携を求めます。各パートナーの実装がOpenAIの基準を満たすか上回るよう協力しています。
- 利用規約の改定(2026年11月20日施行): モデルルーターやAIゲートウェイなど、モデルへの直接アクセスを提供するサービスは、事前にOpenAIの審査と承認が必要になります。
- SafetyID: 顧客がIDを提供することで、OpenAIはユーザーの身元を知らずに、不正利用調査で個々のエンドユーザーを区別できます。
- 執行方針: 記録された行為とリスクに基づき、一貫して比例的に対応し、行為・約束・安全対策が変われば制限を見直します。
その後
青写真は提案であり、誰かを拘束する約束ではありません。OpenAIは政策立案者に今すぐ行動し、状況に応じて要件を強化するよう求めており、自社のミスアライメントやセキュリティ事案が動機だとしています。パートナー基準の変更はより具体的で、ルーター・ゲートウェイ向けの規約要件は2026年11月20日に発効します。対象パートナーの一覧や執行の詳細は未公開です。