Meta広告にAI生成CSAM、実在の女児写真をヌード化するアプリが332件

調査が明らかにした実態

Tech Transparency Project（TTP）は9月8日、Metaのプラットフォーム上で今年に入り332件のCSAM広告を検出したと発表した。その大半は中国製のAIアプリ、とりわけ実在の人物の写真からヌード画像を生成する「ヌード化」アプリを宣伝するものだった。対象は圧倒的に10代前後の女児で、一般の写真が無断で性的な加工に使われている。

TTPは、実在する被害者に結びつく事例も確認した。欧州の王室に所属する少女の写真を性的な動画に加工したケースや、14歳のインスタグラムインフルエンサーがユニフォーム姿で写った写真を用いた広告などが挙げられている。別のストック写真では、ピンクのスポーツウェアを着た女児が成人男性に虐待される動画に加工されており、広告の一部は『本物のAI』をうたう文言でクリックを促していた。

Metaの対応の遅れと矛盾

TTPが300件超の広告を報告したところ、Metaは約半数を数時間で削除した一方、残りは削除に数日かかったという。しかも、報告時点では児童搾取ポリシー違反として記録されず、TTPが指摘してから記録を修正する例もあった。ある広告は報告後もインプレッションが4回から330回に増加しており、TTPは被害の過小計上の可能性を懸念する。

Metaは「ヌード化アプリや児童搾取は容認しない」と説明し、一部の広告は「短い場面やぼやけた映像のため検出をすり抜けた」とする。ただ、同じ画像と文章を使った広告が一方は削除され、他方は「広告基準に抵触しない」として残るなど、審査の一貫性にも疑問が示されている。

収益構造と規制の動き

TTPの報告では、中国の広告リセラーであるGIMC、Meetsocial、BlueFocusの3社が、同じCSAM内容を含む広告をMetaのプラットフォームに配信していた。また、実在しない事業者ページや教会を装うページなど、明らかに不自然なアカウントから出稿されたケースもあった。Metaが中国市場から締め出されている以上、現地のリセラー経由の収益は無視できないという事情があるとみられる。

今回の広告は、EUで2万9000人以上、英国で6800人に表示された。約8割は米国で配信され、オーストラリアにも一部届いたという。こうした状況を受け、ミシガン州とフロリダ州の司法長官が調査に乗り出し、上院議員のマーク・ワーナー氏はMetaに説明を求める書簡を送付した。オーストラリアのeSafety規制当局も上級レベルでの情報提供を要求している。

広告審査の課題と説明

Metaは広告審査の新システムを導入済みだとしていたが、TTPは8月に53件の広告を報告した後、Metaが新しい検出技術を誇ったにもかかわらず、数百件の新規CSAM広告が確認されたとしている。Metaは、該当広告の平均インプレッションが200未満で、総広告費が5000ドル未満だった点を挙げ、影響を限定的に説明しようとした。

一方、TTPは検出漏れが収益の過小申告につながる可能性を指摘する。AI技術の進展により、子どもが日々の写真を撮られるだけで性的なコンテンツに変換されるリスクが生じており、プラットフォーム側の対策は待ったなしだ。今回の問題は広告審査だけでなく、AI生成画像への社会的な対処が急務であることを改めて示している。