OpenAI、国家安全保障分野でのAI利用に関する民主的監督強化に向けた取り組みを発表

OpenAIが、政府による国家安全保障分野でのAI利用に対する民主的な監督を強化することを目的とした取り組みを発表した。政府機関内でのAI導入が拡大する中、従来型の手作業による監督プロセスではその拡大に追いつけないと主張している。

詳細

• 3つの指導原則: (1) 「AIは人間・組織の判断を置き換えるのではなく強化すべきである」、(2) 政府によるAI利用は、機密情報を保護しつつも「認可された監督機関にとって追跡可能で理解しやすいもの」であるべき、(3) 監督機関の能力がAI導入のスピードに取り残されないよう、「AIは民主的な監督機関の能力強化のために活用されるべきである」
• 関係者: OpenAIは「民主的な政府監督機関」や「認可された職員」といった一般的な表現にとどめ、具体的に確定したパートナー機関の名前は挙げていない。新たな組織を作るのではなく、既存の監督体制の中で取り組みを進める枠組みとして位置づけている
• 資金: OpenAIは政府の監督機関向けに、研修・技術支援・OpenAIクレジットの提供として500万ドルを拠出する
• 今後1年間に予定する具体的な取り組み: 実務的な監督の機会を特定するための関係当局との連携/AIが関与した政府の意思決定記録を認可されたレビュー担当者が調査できるツールの試験導入/監督ツールの開発における市民社会団体・技術専門家の関与
• 掲げる理由: OpenAIは「より高性能なシステムほど、より強力な監督が必要となる」という原則を掲げ、これを特に国家安全保障の文脈における自社モデルの政府利用にも当てはめている

その後

今回の発表は製品のリリースではなく政策・資金面での取り組みであり、どの機関が参加するのか、試験導入される監督ツールが具体的にどのようなものになるのかといった中身の大部分は、今後1年間で詰められていくことになる。これは、政府がAI利用をどう統治すべきかを形作ろうとするOpenAI主導の一連の政策的取り組み(直近の「Intelligence Age」向け政策プロトタイプへの100万ドル超の助成金なども含む)の一環であり、OpenAIが一方的にルールを定めるのではなく、そうした枠組み作りを後押しする立場を取っていることがうかがえる。