Metaが女性政治家をヌード化するAIアプリ広告を配信、審査の穴が露呈

広告の内容と実態

米Metaの広告プラットフォーム上で、AIを使って女性政治家をヌード化するアプリ「Kromix」の動画広告が配信されていた。広告には、米国の女性政治家に似せた人物が米国旗の前で登場し、「もし彼女が動いたら」というキャプションの後にポルノ動画へ切り替わる内容が含まれていた。音声では「制限なし」「登場人物はすべて実在の人物」などと宣伝されていた。

Metaの広告ライブラリによると、広告は男性ユーザーのみを対象に配信され、アカウント全体で32件が確認された。掲載時間は5時間から46時間で、多くは10回未満のインプレッションしか得られていなかった。WIREDがMetaに問い合わせた後、これらの広告は削除された。

Kromixの実態とAppleの対応

Kromixは「AI画像スタイラー」を自称するアプリで、有料ユーザーが写真をアップロードすると、「ベッドルーム強姦」や「ディズニーラブ」といったシナリオに組み込む機能を持っていた。また、スパイダーマンのコスチュームを着た女性のAI生成ポルノ動画も含まれていたという。記事によると、アプリの連絡先に問い合わせても返答はなかった。

AppleはWIREDからのコメント要請を受けてKromixをApp Storeから削除した。Appleの担当者は「最初の審査後、禁止コンテンツと機能が追加されたようだ」と説明し、ヌード化アプリは審査ガイドラインに反すると述べている。ただ、同種のアプリが繰り返しApp Storeに登場している現状も指摘されている。

Metaの審査とポリシーの矛盾

Metaは広告掲載前に、ポリシーに照らして自動ツールで審査すると説明している。しかし、ヌード化アプリの広告は過去数年にわたって頻繁に確認されており、研究者は数千件を検出している。Meta自身も昨年11月から1月までに34万4千件の違反広告を削除し、ヌード化サービスを提供する企業に対して訴訟を起こしたと発表している。

今回の広告は、表紙画像をビーチや山などの無害なものに偽装していたとされる。Metaの担当者は「悪意ある広告主は常に手口を変えている」「システムは完璧ではない」と述べており、審査をすり抜けた原因は現在も調査中だとしている。

問題の背景と今後の焦点

女性政治家を標的にした非同意のディープフェイクは以前から確認されている。記事では、スウェーデンや英国などの当局者が標的になった事例や、Grokを使って約300万枚の性的画像が生成された事例も紹介されている。公式の肖像写真がAI生成ツールの素材として悪用されるケースが増えているという指摘もある。

現在のところ、今回の広告の正確な配信範囲や、Kromixの開発者が誰なのかは明らかになっていない。Metaは広告の削除と調査を進めるとしているが、根本的な対策が講じられるかは未知数だ。