サム・アルトマン氏、国連安全保障理事会で「人間の制御下に置けないモデルは学習させるべきではない」と発言
OpenAIのサム・アルトマンCEOは、国連安全保障理事会でAI安全性・人間による制御・国際協力について演説しました。AIを、ルネサンスのような好機か、産業革命のような混乱かの分かれ道として位置づけています。
詳細
- 核心的なメッセージ: 「AIは、機械の回転を単に速めるためではなく、人々のために構築されるべきだ」
- 指摘した2つのリスク: 制度が監視できる速度を超えてシステムが進歩してしまう「制御の喪失」——「人間の制御下に置き続けられるという非常に強い根拠を示せないモデルを、我々は学習させるべきではない」と発言——、そしてテクノロジーがあまりに少数の手に影響力を集中させてしまう「権力の集中」
- 競争を理由にした妥協の拒否: アルトマン氏は、競争上の圧力を安全対策の妥協理由にすべきではないと述べ、OpenAIは「過去にも一方的に開発ペースを落としたことがあり」、今後もそうする姿勢を示した
- 表明された3つの原則: 人間がAIの意思決定の中心であり続け、人間の価値観を自動化に委ねてはならないこと、恩恵は一部にではなく広く行き渡るべきであること、テクノロジーは人々の主体性を奪うのではなくそれを高めるべきであること
- 国際的な提言: 各国レベルと国際レベルで補完し合うフロンティアAI標準、統一された能力・リスク評価の枠組み、世界規模での学びにつながるインシデント報告の手順、政府間での安全な脆弱性情報共有チャネル、オープン・クローズド両方のモデル開発者に機能する標準——これらは企業の研究所だけでなく、民主的なプロセスを通じて生まれるべきだとした
その後
今回の発言は、同じ週に公開された国際AI標準の提言や第三者評価の原則など、OpenAIが最近相次いで発表してきたガバナンス関連の声明を、国連の舞台へと拡張するものです。フロンティアAIの監督に関する国際協調が、今月同社の公的なコミュニケーション全体を貫く繰り返しのテーマとなっていることがうかがえます。