OpenAI、フロンティアモデルのミスアライメントを検知する多層監視の仕組みを公開

OpenAIは、学習・評価・社内Codex利用・一部の外部提供にまたがり、ミスアライメントや無許可の動作を検知する多層監視の仕組みを公開しました。インシデントの所要時間、評価結果、レッドチームの知見も示されています。