ChatGPT ニュース 2026/11/09 AI判定 重要度:中

OpenAI、研究基盤のモデル実行を35秒以内に止められる「Control Room」を解説

#OpenAI#AIの安全性#Control Room#ミスアライメント#インフラ

OpenAIは、研究基盤全体のモデルのワークロードを追跡し、安全性やセキュリティ上の懸念が出たときに素早く止められる中央システム「Control Room」について説明しました。OpenAIによると、最も必要性の高い研究基盤にはすでに展開済みです。

詳細

  • 対象範囲: モデルの学習や評価のためのエージェント的なサンプリング、データ処理を含む、研究用のすべての推論ワークロードです。エージェント的な推論を行う研究ワークロードは、承認済みのセーフティケースに紐づける必要があります。
  • 速度: 停止の指示を受けてから、それ以上先に進めなくなるまでの最大時間は35秒です。この遅延は推論の認可のためのキャッシュ層によるもので、OpenAIはゼロにすべく取り組んでいます。
  • 仕組み: ワークロードはControl Roomからjob_idを受け取ります。トークンをサンプリングするたびに、推論エンジンがjob_idを添えてControl Roomに許可を求めます。ジョブが終了済みなら要求は拒否され、それ以上の出力は生成されません。
  • 推論層で止める理由: ワークロードのコードは頻繁に変わり多くのチームが所有しますが、OpenAIの研究全体で使われる推論のコードパスはごく少数です。Control Roomを無効にした不正なエンジンが起動されていないか、エージェントとプログラムによる点検も継続して行っています。
  • フェイルクローズ: Control Roomのサービスが停止した場合や、改ざんを含めて無効化された場合は、復旧するまですべての推論要求を拒否します。これは、フロンティアモデルの研究ワークロードすべてに展開済みで、残りの研究ワークロードにも数日中に展開されます。
  • 監視との連携: フロンティアの強化学習ジョブはすべて、問題を検知して警告するモニターモデルとともに動き、必要ならControl Roomにジョブの停止を依頼します。OpenAIは、最近のDNS関連のインシデントがモニターで検知されたと紹介しています。
  • 対象外: 外部向けのモデル提供基盤はもともとより集中化されており、デプロイを素早く停止する別の仕組みがあります。

OpenAIは、今後数か月でこのシステムを強化・拡張していくとしています。