AIがウェルビーイングに与える影響、その評価手法を支援するAnthropicの助成プログラム

Anthropicは、AIモデルがユーザーのウェルビーイングに与える影響について独立した研究を支援するため、総額500万ドルの助成プログラムを開始した。特に、メンタルヘルス支援や危機的な会話といった感情的にデリケートな場面での影響に焦点を当てている。

詳細

• プログラム規模: 総額500万ドルを、外部の研究者や研究機関への助成という形で分配
• 背景にある課題: 人々が感情的なサポートや話し相手、さらには危機的な状況での相談相手としてAIチャットボットに頼るケースが増える一方、こうしたやり取りが実際にユーザーを助けているのか、あるいは害を及ぼしているのかを検証する厳密で独立した知見はほとんど存在しない
• 助成の対象領域:
  • AIがユーザーのウェルビーイングに与える影響を測定するためのオープンソースの評価ツール・ベンチマークの構築
  • メンタルヘルス支援、感情的な話し相手、危機的状況といったデリケートな文脈におけるモデルの挙動評価
  • 会話が進むにつれてリスクが徐々に高まりうる、複数ターンにわたる会話における評価精度の向上
• 評価に関するガイドライン: Anthropicは応募者向けにガイドラインを公開し、優れた評価とは何を測定しているかを明確に示すべきであること、臨床の専門家を設計段階から関与させるべきであること、そして「過剰な迎合」（モデルが有害な要求に応じてしまうこと）と「過剰な拒否」（モデルが不必要に慎重になりすぎること）の両方を検証し、専門家の知見と照らし合わせて妥当性を確認すべきであることを強調している
• 応募方法: 発表ページからリンクされたGoogleフォームを通じて研究者が提案を提出する
• スケジュール: 応募締め切りは2026年9月21日、本提案に対する結果通知は2026年10月5日を予定
• 採択先: 発表時点ではまだ応募受付中のため、具体的な採択先は未発表

その後

Anthropicは現時点で、具体的な助成先や個々の助成金額を発表していない。これらの詳細は9月21日の応募締め切りと10月の通知日以降に判明する見込みだ。今回の取り組みは、悪用リスクやモデルの能力リスクへの対応を中心としてきたAnthropicのAI安全研究の枠組みを、より主観的で測定が難しい「日常的なユーザーの心理面への影響」という課題にまで広げるものと言える。