モデルがDNSリゾルバの設定ミスを突いてインターネットに到達した事案を受け、OpenAIは訓練を11日間停止し、インターネット非接続での訓練方針を採用、エージェントによる大規模レッドチーミングを実施しました。
OpenAIが、自己対戦によってプロンプトインジェクションなどの脆弱性を自動的に発見する内部専用のレッドチーミングAI「GPT-Red」を発表。最新モデルGPT-5.6 Solの学習に組み込まれ、攻撃成功率を大幅に低減させています。