OpenAI、フロンティアAIの国際的な技術標準策定を米国主導で進めるよう提言

OpenAIは、フロンティアAIおよび再帰的自己改善(RSI)を含む分野での国際的な技術標準の策定を、米国が主導する形で進めるべきだとする政策提言を公開しました。

詳細

• 提案されている仕組み: 米国のCAISI(Center for AI Standards and Innovation)を通じて既に10か国以上に設立されているAI安全機関や各国の同様の機関を活用し、2024年に設立された「International Network for Advanced AI Measurement, Evaluation, and Science」を土台とする
• 標準化の対象分野: 能力測定・評価の基準線、リスク評価の手順、安全対策の十分性基準、RSI特有の進展評価、自動化された研究に対する人間の監督要件、インシデントの分類・報告の枠組み
• 既存の取り組みへの言及: OpenAIは、9月に公開した自社の「研究加速レポート」や「ミスアライメント報告の枠組み」を、こうした標準に向けた初期の土台として挙げている
• 規制ではないと明言: OpenAIは、提案する標準について「ライセンスや、発売前の義務的な審査、承認要件ではない」としている。実施は各国政府の判断に委ねられるとしており、OpenAI自身が管理する拘束力あるコミットメントというより、一つのアプローチへの提言という位置づけ

その後

今回の提言は、ミスアライメント報告の枠組みやAstraに関する安全性開示など、OpenAIが最近続けてきた安全性の透明性向上に向けた取り組みを、政府レベルでの協調を明確に求める形へと拡張するものです。各国がそれぞれ異なるルールを独自に定める前に、フロンティアAIの監督体制がどのような制度的形を取るかについて、OpenAIが方向づけを試みていることがうかがえます。