「OpenAI、AIの不正利用を継続的に公表 ― 国家関連の情報工作から詐欺ネットワークまで44件超の事例を公開」
OpenAIは「Disrupting malicious uses of AI(AIの不正利用を阻止する)」と題した報告シリーズを2024年5月から断続的に公表し続けており、これまでに国家関連の情報工作、詐欺・スキャム組織、マルウェア開発支援、選挙関連の世論工作など40件を超える事例でChatGPTアカウントの検知・停止を報告しています。今回は個別の新規発表ではなく、当サイトが一括で把握したこの継続的な公表活動そのものを、代表的な事例とともにまとめて紹介します。
詳細
- 報告の位置づけ: 単発のインシデントではなく、OpenAIが脅威インテリジェンスチームを通じて数ヶ月おきに実施している定期報告。2024年5月・10月、2025年2月・6月・10月、2026年6月と、おおよそ四半期ごとのペースで新しい事例がまとめて公開されている
- Doppelganger(2024年5月): ウクライナや欧州を標的としたロシア系の情報工作。ChatGPTで英語・フランス語・ドイツ語・ポーランド語のコメントや記事を生成し、複数のSNSに投稿していたアカウント群を停止
- Spamouflage(2024年5月): 中国当局系とされる情報工作。SNS上の活動状況の調査や多言語コンテンツの生成にChatGPTを利用していたアカウントを停止
- STORM-2035(2024年10月・2025年6月): イラン系とされる情報工作。米国・英国の選挙に関するコンテンツを生成し複数サイトに配信していたが、一度停止された後も再び活動を試みた「再犯」事例として2度報告されている
- SweetSpecter / CyberAv3ngers(2024年10月): 中国・イラン系とされるサイバー脅威アクター。脆弱性調査や産業制御システムの初期設定パスワード調査など、攻撃準備段階の情報収集にChatGPTを利用していたアカウントを停止
- 北朝鮮関連の偽装就労スキーム(2025年2月・6月): 履歴書や職務経歴の偽装、面接対策などにAIを利用し、身元を偽って海外企業への就労を試みるDPRK関連の疑いがある活動を継続的に検知・停止
- カンボジア拠点の詐欺ネットワーク(2025年2月・6月、2026年8月): ロマンス詐欺・投資詐欺・偽求人(タスク詐欺)などを行う組織が、メッセージ生成や多言語翻訳、偽の身分証明書画像の作成にChatGPTを利用していた事例。直近では2026年に公表された「Disrupting a Criminal Scam Operation」でも、同種の詐欺・人身取引関連ネットワークを停止したと報告
- 「Data Center Bandwagon」「Tech and Tariffs」(2026年6月): 中国系とみられる比較的新しいクラスターが、米国のデータセンター投資や関税・技術政策を批判するSNSコンテンツの生成にAIを利用していた事例。シリーズの中でも直近の報告にあたる
- 共通する対応: いずれのケースもOpenAIは該当アカウント・ネットワークを停止し、判明した指標(IOC)を業界他社や研究者、当局と共有。再侵入を難しくするための対策も併せて実施している
その後
- 今回まとめた40件超の事例は、いずれも新規の単発ニュースではなく、OpenAIが継続してきた公表活動の履歴。当サイトの自動検知が同シリーズのアーカイブページを一括で拾ったことによるもので、各事例の発生時期は2024年5月から2026年6月頃までに分散している
- OpenAIは今後もこの種の報告を継続する方針を示しており、ChatGPTが情報工作やサイバー攻撃、詐欺の準備作業に悪用されるリスクと、その検知・対策の実例に関心がある読者は、OpenAI公式サイトの個別レポート(「Disrupting malicious uses of AI」で検索可能)を参照するとよい