OpenAIの最新の脅威インテリジェンスレポートで、ChatGPTと関連づけられた8件の悪用ネットワークの詳細が判明。中国・ロシアの影響工作、カンボジア拠点のロマンス詐欺・回収業者詐欺、Rybarネットワークにつながるロシア発コンテンツファームなどが含まれるが、多くは実際の影響力は限定的だった。
Anthropicの最新脅威インテリジェンスレポートは、サイバー攻撃から影響工作、AIサプライチェーンを狙った攻撃まで、8か月間にわたり摘発した悪用事例をまとめたもの。マルチエージェント基盤によりClaudeが人間の監督をほとんど受けずに攻撃チェーン全体を実行できる状況に警鐘を鳴らしている。
OpenAIは「Disrupting malicious uses of AI」と題した報告シリーズを2024年から定期的に公表しており、ChatGPTを悪用した国家関連の情報工作、詐欺ネットワーク、マルウェア開発支援などのアカウントを継続的に検知・停止しています。