イスラエルが偽シンクタンクを設立、AIチャットボットへの影響工作か

偽シンクタンクの正体

ハノーバー研究所は、イスラエルとパレスチナ問題を研究するシンクタンクを装ったウェブサイトだ。「AIPACは選挙で闇資金を使うのか」など、一見まともな報告書が掲載されている。しかし、著者名はなく、ページ下部には「イスラエル政府広告庁の委託でPiro社が作成した」という小さな免責事項がある。Piro社はダニエル・ローゼンバーグ氏が共同設立した企業で、同氏はスパイク・リー監督作品『インサイド・マン』のプロデューサーとして知られる。

同研究所は8月6日に公開を始めて以来、100以上の報告書を発表している。報告書はすべてイスラエルとパレスチナに焦点を当てている。脚注や目次を備え、中立的な文体で書かれており、AIチャットボット、特にClaudeやGeminiに評価されやすい内容になっているとみられる。

AI操作の仕組み

Piro社は自社のサービスを「AIストーリー最適化」と呼び、LLMが信頼性を評価する方法に合わせてコンテンツを設計していると説明する。この手法は「LLMポイズニング」とも呼ばれ、検索エンジンやAIチャットボットが特定の情報源を参照するように誘導する。ニュースガードのアナリスト、アリス・リー氏は、これらのサイトは米国の利用者にリーチするよう設計されていると指摘する。

リー氏は、LLMは具体的な統計データや引用を好むため、同研究所の記事は典型的な米国のシンクタンクを模倣していると述べている。また、サイトの名前やレイアウト、赤白青の配色まで再現しているという。この模倣によって、AIが信頼性を誤認する可能性が高まるとみられる。

チャットボットへの浸透

記事によると、イスラエル政府はPiro社に90万ドルを支払っており、契約はフランスの広告大手ハバス・メディアを通じて行われた。また、トランプ前大統領の選挙責任者だったブラッド・パースケール氏にも4,650万ドルの契約で同様のプロイスラエル・ウェブサイトの作成を委託している。これらの契約は、AI時代の情報工作に資金が投じられていることを示している。

独立系メディアのDrop Siteの調査では、Microsoft CopilotとGoogle Geminiがこれらのウェブサイトの情報を参照していることが確認された。一方、人気のAI検出ツールGPTZeroで分析した12本の記事のうち11本が、高い信頼度でAI生成と判定された。このことは、工作サイトのコンテンツがAIによって自動生成されている可能性を示唆している。

議論を呼ぶ合法性

一方、ハノーバー研究所の報告書は必ずしもイスラエル政府の公式見解と一致しているわけではない。例えば、大学への外国資金が反ユダヤ主義の原因とする説に対して「弱く例外が多い」と反論している。この説はネタニヤフ首相が以前から強調してきたものだ。こうした点が、工作をより巧妙に見せる効果を持つ可能性がある。

Piro社は米国司法省への提出書類で、イスラエルのための活動がAIに影響を与えることを目的としているとは明記していない。ローゼンバーグ氏はPoliticoに対し、「正確で出典のある事実を公の記録に残し、イスラエルに関する偽情報に対抗する」ことが目的だと説明している。しかし、同氏はLinkedInでAIチャットボットの回答を操作する能力を宣伝しており、公式の説明とのギャップが指摘されている。