
- OpenAIがロシア起源とイラン起源の秘密影響工作2件のアカウントを禁止した
- ロシア工作は偽シンクタンク「SRC」で南米の人物を気づかせず利用していた
- 評価尺度はロシアがカテゴリー5、イランがカテゴリー4で、5は報告開始以来初
何が発表されたのか
OpenAIは2026年10月8日、同社のAIモデルを悪用した秘密裏の影響工作(インフルエンス・オペレーション、以下IO)2件を禁止措置にしたと公表しました。1件はロシア起源、もう1件はイラン起源で、いずれもAIと従来型の技術を組み合わせ、精巧な「偽装の前面組織(false front)」を支えていました。こうした前面組織は、地政学的なメッセージや紛争に関連する主張を、標的となる読者層に流し込むために使われたとされます。
OpenAIは、この種の報告を規制当局や同業他社、社会全体に向けて公開していると説明しています。目的は、脅威アクターがAIをどう利用しようとしているかを共有し、彼らが突こうとしている脆弱性に光を当てることだとしています。今回の2件は、AI時代以前の複雑な影響工作とよく似ており、AIが一部の作業を容易にした点が特徴だとされています。
ロシア工作「Dark Clark」
ロシア起源の工作は、ラテンアメリカ各国を標的にした秘密裏の影響工作にChatGPTを使っていました。活動の多くは域内でウクライナの評判を落とすことを狙ったものとみられますが、アルゼンチンやボリビアなど、地域の政治的な結果に影響を与えようとしたものもあったとされます。OpenAIはロシアからの自社モデルへのアクセスを許可していないため、工作員はVPNを使って接続していたということです。大半の操作はロシア語で行われ、1件はスペイン語でしたが、発信元はロシアにあったとみられます。
工作員は、ラテンアメリカで「研究プラットフォーム」を自称するSocial Research Center(SRC)を、偽ペルソナ「Mia Clark」を通じて支配していたとみられます。OpenAIはこの名前から、この工作を「Dark Clark」と名付けました。SRCの現地スタッフは、自分たちがロシアのグループのために働いていると認識していなかったとされます。OpenAIは、これを過去2年半に遮断した工作のうち最も複雑な前面組織の運営だったと位置づけています。
ChatGPTは主に3つの用途で使われていました。活動に関する内部報告書の作成、工作のためのコンテンツ作成、そしてSRCの活動実績に関する報告書の下書きです。OpenAIによれば、多くの場合、工作員はキャンペーンのコンテンツ作成ではなく、その報告に同社のモデルを使っていたとされます。内部報告書には戦術的な詳細が多く含まれ、工作員は自らの有効性を誇張するために、疑わしい、あるいは明らかに欺瞞的な方法論を用いていたとされます。
南米で確認された手口
内部報告書には、具体的な手口も記されています。工作員は2024年、アルゼンチンのミレイ大統領を標的に2件のキャンペーンを実施したと主張しています。大統領が飼い犬にカルティエの宝石入り首輪を買ったという虚偽の報道を流し、ブエノスアイレスで反ミレイの落書きを現地の人物に金を払って投稿させたというものです。こうした主張の一部は、公開情報の調査によって「Politology」または「La Compania」と呼ばれるロシアの主体に帰属されているとOpenAIは説明しています。
2026年5月には、ペルーのリマの教育当局を名乗る偽のメールアドレスを作り、地区の学校にウクライナに関連する行事を開くよう指示したと主張しています。このメールには、ウクライナの民族主義者ステパン・バンデラへの言及を求める内容が含まれており、一部の学校が偽のメールに返信し、行事の写真まで送ってきたとされます。工作員はその後、ペルーとポーランドに加え、ハンガリーの英語メディアにもこの出来事を報じさせたと主張しており、公開情報の検索で一致する記事が確認されています。
6月には、別の偽メールでエクアドルの学校を騙し、ノボア大統領と、民間軍事会社ブラックウォーターの元トップであるエリック・プリンスへの忠誠を誓う式典を開かせたと主張しています。工作員によれば、この出来事はエクアドル国内で反発を招き、政府が否定に追い込まれることで全国的な注目を集めたとされます。OpenAIは、エクアドルの教育大臣による詳細な反論記事まで確認できたとしています。
イラン工作とAIの役割
イラン起源の工作は、7人の「ジャーナリスト」ペルソナを使い、世界各地の中小オンラインメディアに長文記事を売り込んでいました。あわせて、米国とイランの戦争に関連する話題を中心に、SNSのコメントをまとめて生成していたとされます。ロシア起源の工作も含め、両者は内部報告書の下書きにAIを多用しており、ロシアの工作ではそれが最も多かったとOpenAIは指摘しています。
イランのペルソナは、2016〜17年に西側の複数メディアに記事を掲載させた、ロシア軍情報機関の偽ジャーナリスト「Alice Donovan」とよく似ているとされます。2020年には、ロシアのインターネット・リサーチ・エージェンシーに関連する人物らが「PeaceData」という偽のニュース媒体を運営し、世界各地の記者を気づかないまま執筆に巻き込んでいました。OpenAIは、AIによってこうした偽装工作が規模、効率、言語の流暢さ、編集能力の面で強化されうると述べています。
到達度の評価と不明点
OpenAIは影響工作の到達度を1〜6で評価する「IO Breakout Scale」を用いており、今回のロシア起源の工作をカテゴリー5、イラン起源をカテゴリー4と評価しています。カテゴリー5の工作を遮断したのは、報告を始めて以来初めてだとしています。両工作はいずれも、SNSに投稿するだけでなく、内容を主流メディアに掲載させることに成功した点が特徴です。OpenAIは2024年初頭以降に30件の秘密裏の影響工作を暴露しており、実際のメディアに内容を載せようとした工作ほど到達度と影響力が高くなる傾向があると説明しています。
一方で、今回の報告からは、偽情報が実際にどの程度の読者に届いたのかをOpenAIがどう測定しているのかは読み取れません。工作員が内部報告書で自らの有効性を誇張していた可能性についても、OpenAI自身が言及しています。また、本稿で確認できる範囲では、日本に関する具体的な記述はありません。
| 項目 | ロシア起源の工作 | イラン起源の工作 |
|---|---|---|
| 偽装した主体 | 偽シンクタンクSRCと偽ペルソナ「Mia Clark」 | 7人の「ジャーナリスト」ペルソナ |
| 主な手法 | 偽の「リーク」文書や音声スクリプト、現地人の勧誘 | 長文記事の売り込みとSNSコメントの生成 |
| IO Breakout Scale評価 | カテゴリー5 | カテゴリー4 |
What is most striking about these operations is that they closely resembled complex influence operations of the pre-AI age, but used AI to make some of the workflows easier.
これらの工作で最も注目すべき点は、AI以前の時代の複雑な影響工作とよく似ており、AIを一部の作業工程を容易にするために使っていたことです。
今後の見通し
OpenAIは、偽装工作の秘密性ゆえに責任ある開示が有効な対抗手段になると位置づけており、今後も同様の報告を続けるとみられます。次の焦点は、今回の2件が遮断後に活動を停止したのか、別の手段に移ったのかです。「Alice Donovan」と「PeaceData」は暴露後に活動を停止したとされますが、今回も同じ経過をたどるかは分かりません。AIが偽装工作の規模や編集能力をどこまで高めているのかを示す定量的な指標が示されれば、企業が自社サービスへの悪用リスクを評価する材料になるとみられます。
日本の開発者・IT企業にとっての意味
今回の報告は、生成AIが偽情報の生成だけでなく、既存の影響工作を支える編集・翻訳・報告の道具として使われていることを示しています。AIサービスを提供する企業にとっては、利用規約違反の検知と、規制当局や同業、社会への開示を運用に組み込む必要性が高まっていることを意味します。メディアや投稿機能を持つサービスでは、偽メールや偽ペルソナ経由の寄稿がそのまま配信経路になりうる点に注意が必要です。現地スタッフが外国の主体のために働いていると知らないまま関与していたとするSRCの事例は、採用や業務委託の身元確認が対岸の火事ではないことを示します。日本企業も、自社メディアやSNS、従業員が騙されて拡散に加担するリスクを想定した運用を検討する材料になるとみられます。
気になる点
- ロシアからはChatGPTを使えないのですか。
- OpenAIはロシアからの自社モデルへのアクセスを許可しておらず、ロシア起源の工作員はVPN経由で接続していたと報告されています。今回の工作でも、大半の操作はロシア語でプロンプトを入力しており、1件はスペイン語でしたが発信元はロシアにあったとみられるとされています。
- 「IO Breakout Scale」のカテゴリー5とはどの程度の水準ですか。
- 影響工作の到達度を1(最低)から6(最高)で評価する尺度です。今回のロシア起源の工作はカテゴリー5、イラン起源はカテゴリー4と評価されました。OpenAIによれば、カテゴリー5の工作を遮断したのは報告を始めて以来初めてで、両工作ともSNSではなく主流メディアに内容を掲載させることに成功しています。
- アカウント停止だけで工作は止まるのですか。
- OpenAIは、偽装工作は秘密裏に行われるがゆえに責任ある開示に特に脆弱だと述べています。実際に偽ジャーナリストの「Alice Donovan」と偽ニュース媒体の「PeaceData」はいずれも暴露後に活動を停止しました。ただし、今回の2件がその後どうなったかは本稿で確認できる範囲では示されていません。
用語解説
- 影響工作(IO)
- 国家などの主体が、世論や政治的意思決定に影響を与えるために行う偽情報・プロパガンダ活動。
- IO Breakout Scale
- 影響工作の到達度を1〜6で評価する尺度。6が最も高い。
- ペルソナ
- 実在しない人物像。SNSやメディア上で本物の人物であるかのように演じる。
- VPN
- 通信を暗号化し、接続元を別の場所に見せかける技術。
出典
Disrupting AI-enabled “false front” operations
https://openai.com/index/disrupting-ai-enabled-false-front-operations
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する