AI安全性研究者ポール・クリスティアーノ氏、OpenAI財団理事会に参加
OpenAIは、AI安全性研究者のポール・クリスティアーノ氏が、同社の財団理事会に非議決権オブザーバーとして参加し、Safety and Security委員会のメンバーとなることを発表しました。委員会の議長はZico Kolter氏が務めます。
詳細
- クリスティアーノ氏の経歴: 2017年から2021年までOpenAIでアライメント研究を主導し、人間のフィードバックによる強化学習(RLHF)の基礎的な研究に貢献。その後、高度なAIを人間の利益に沿わせることを目指す非営利団体「Alignment Research Center」を設立し、現在は米国標準技術研究所(NIST)のCenter for AI Standards and Innovationでシニア技術顧問を務めている
- 新たな役割: OpenAI財団理事会の非議決権オブザーバーとして、議決権を持つ理事席ではなくSafety and Security委員会に参加する
- OpenAIが示す理由: 同社はこの人事について、ガバナンスに「技術的な裏付けのある独自の視点」をもたらすものだとし、業界の安全対策に関する「既存の前提に異議を唱える」姿勢を評価していると説明
- クリスティアーノ氏の見解: 高度なAIが破滅的なリスクをもたらし得ると考え、開発者はそれに先回りして備えるべきだという立場で知られる人物。独立したアライメント研究の経験と、政府機関でフロンティアモデルを評価してきた直接的な経験の両方を併せ持つ
その後
今回の人事は、「GPT-6 Astra」のリリースおよびそのサイバーセキュリティ能力が「Critical」水準に認定されたのと同じ週に行われました。独立した、時に批判的な分析で知られる外部の安全性研究者を、モデルの能力が高まり続ける中でOpenAI自身のガバナンス構造の内側に迎え入れる形となります。