OpenAI、中国系の影響工作からカンボジア発ロマンス詐欺まで、悪用ネットワーク8件の摘発を公表

OpenAIは最新の脅威インテリジェンスレポートを公開し、国家関連の影響工作・詐欺・秘密裏のコンテンツ生成を理由にBANした、ChatGPTと関連づけられた8件のネットワークの詳細を明らかにしました。

詳細

• 「サイバー特殊工作(Cyber Special Operations)」(中国系): 中国の法執行機関関係者とみられる人物のアカウントが、反体制派や中国共産党批判者を標的とした秘密の影響工作(「网络特战」)に関する状況報告書の編集にChatGPTを利用。数百人規模のスタッフや複数プラットフォームにまたがる数千の偽アカウントに言及していた。日本の首相を標的とした工作の計画依頼はモデルが拒否したが、実際の投稿(高市氏批判のハッシュタグ、反体制派へのなりすまし、虚偽の訃報)はユーザーの主張と一致。ただし約5万件の投稿のうち、有意なエンゲージメントを得たのは150件未満だった
• 「シルバーライニング・プレイブック(Silver Lining Playbook)」(中国系の可能性): 米国人・場所・ソーシャルエンジニアリング手法の調査にAIを利用したアカウント群
• 「ノーベル(No Bell)」(ロシア系): Metaからの通報で発覚したアカウントが、架空の学者名義で親ロシア・反ウクライナ/英国/米国の記事を生成。AIらしさを消すためダッシュ記号の除去を依頼するなど痕跡を消す工夫をし、偽のアフリカ系ニュースサイトや正規サイトの両方に掲載。到達範囲は概ね小規模だったが、一部の記事はアフリカの主要メディアにも掲載された
• 「フィッシュフード(Fish Food)」(ロシア系、Rybarネットワーク): 加入者140万人の「Rybar」ネットワークおよび関連アカウント向けに、ロシア語・英語・スペイン語のコンテンツを生成するコンテンツファームとして機能。利用者はアフリカ諸国向けに最大60万ドル規模の選挙介入提案の作成支援も求めていた
• 「トローリング・ストーン(Trolling Stone)」(ロシア系、これまで未報告): 米国とその同盟国を批判する協調的な論評を生成する、新たに特定された工作
• カンボジア拠点の詐欺ネットワーク——「デートベイト(Date Bait)」「フォールスウィットネス(False Witness)」、および一般的なロマンス詐欺: カンボジア発とみられるアカウントが、インドネシアのマッチングアプリ利用者への詐欺勧誘や、詐欺被害者を標的とした回収業者・法律事務所・当局へのなりすましにAIを利用。別のロマンス詐欺に関する報告では、インドネシアの若年男性を標的としたカンボジア拠点の工作で使われる「ピング・ジング・スティング」(初回接触・感情的な絆の構築・金銭要求)という手口の枠組みが解説されている

その後

レポートに含まれるほぼ全ての事例で、実際の影響力は限定的でした——多くの影響工作コンテンツは小規模な層にしか届かず、主要メディアへの掲載も散発的だったにとどまっています。これは、AIがプロパガンダや詐欺コンテンツの制作コストを下げる一方で、必ずしも大規模な効果につながるわけではないという、OpenAIが過去の摘発報告でも示してきたパターンと一致します。今回のレポートは、1週間前に発表されたより正式な「ミスアライメント報告の枠組み」と並行する形で、OpenAIが続けている悪用ネットワークの定期的な公表という慣行の延長線上にあります。