OpenAIが新ブログ「AI Futures」を開設、新設のStrategic Futuresチームが発信

OpenAIは、社内に新設した「Strategic Futures」チームが運営する新ブログ「AI Futures」を立ち上げた。破壊的な性能を持つAIの台頭に対応しながら、自由な社会がいかに個人の権利と自律性を維持できるかをテーマに据えている。

詳細

• 何であるか: AI Futuresは「OpenAIの新しいStrategic Futuresチームのブログ」であり、公開プログラムや製品ではなく、社内の小規模なチームによる発信の場という位置づけ
• 中心的な問い: 「破壊的なAIの出現に対応しながら、個人の権利と自律性を守るために、自由な社会はどのように再構築されるべきか」という問いを軸に据えている
• なぜこのリスクを扱うのか: OpenAIは「権力集中（concentration of power）」を、AIにまつわるリスクの中でも「最大かつ最も深刻で、対処する上で概念的に最も難しい」ものだと位置づけている。誤用やミスアライメントといった、より頻繁に議論されるリスクとは区別している
• 懸念の核心: 歴史的に政治権力は、兵士・警察・納税者・官僚といった人間の協力に依存してきた。OpenAIは、自律システムと機械知能によって、国家が「協力的な兵士に頼ることなく」武力を行使したり、人手ではなくデータセンターから歳入を得たりできるようになる可能性があり、これが協力関係によって歴史的に権力に課されてきた歯止めを構造的に弱めかねないと論じている
• 6つの指針: チームの活動を導くとされる原則
  1. 安全保障や経済成長とのトレードオフになる場合でも、AIの使い方における個人の自律性を維持すべき
  2. 技術へのアクセス拡大には、個人の責任が伴うべき
  3. 集団的な対応は、深刻かつ範囲の限定されたリスクにのみ用いるべき
  4. 法制度は、中央集権的な権力に対して個人や小規模組織の力を強めるものであるべき
  5. 世界情勢の方向づけにおいては、人間の政治・社会・経済制度が主導権を保持すべき
  6. 通常のプライバシーや匿名性を保護しつつ、重大な影響を持つAIの行動を責任あるひとりの人間に紐づけられる「境界を定めた可視性（bounded legibility）」の仕組みが必要
• 形式と進め方: 発信の形態はブログ記事に加え、論文・動画・ポッドキャストにも広げるという。「反復、議論、そしてフィードバックへの積極性を重視する」姿勢を掲げ、公共政策・経済学・法学・歴史学・機械学習といった分野の知見を横断的に取り入れるとしている。また「一企業、一業界、一社会だけでこの問いに単独で答えることはできない」とも明言している

その後

AI Futuresの立ち上げは、国家安全保障における民主的監督の強化（8月19日）やサイバー能力とモデル開発ペースの関係（同）など、OpenAIが最近相次いで公開してきた統治・政策系の記事の延長線上にある。単発の投稿を重ねるのではなく、政策的な発信を専用の継続的なチャンネルに集約しようとする動きと見られる。今回の立ち上げ記事自体には、上記の枠組み以外に具体的な個別論考はまだ含まれておらず、今後openai.com/index/introducing-ai-futures周辺で続報が公開される見通し。