xAI、児童性的虐待画像を訓練データに使用か 集団訴訟で被害者が訴え

集団訴訟の内容

原告Jane Doeは、幼少期に虐待された画像がAI生成CSAMに悪用されたとして、xAIを集団訴訟で訴えた。彼女の画像はNCMECとCCCPによってハッシュ化され、被害者通知システムに登録されていた。CCCPがxAIのサービス上に彼女を描いたAI生成CSAMを発見し、本人に通知したことで事態が明らかになった。

訴状は、xAIがGrokの画像・動画生成能力を構築するために使用したデータセットに、NCMECのCSAMハッシュリストに含まれる原告の画像が含まれていたと主張している。ただし、具体的なデータセットの詳細には踏み込んでいない。原告は、xAIがGrokを訓練する際、初期の虐待画像に加え、生成されたAI画像も追加で学習させた可能性があると懸念している。

訓練データの仕組み

問題の核心は、Grokの利用規約が公開X投稿とGrok自身の出力をデフォルトで訓練データに含める点にある。この仕組みでは、誰かが画像を公開すると、それがそのままxAIの訓練パイプラインに流入する。原告は、暴力的コンテンツはフィルターで除外される一方、CSAMや非同意の性的画像（NCII）、NSFWが除外カテゴリに含まれるか不明だと指摘する。

さらに、訓練済みモデルから特定の画像の影響を完全に除去することは技術的に難しく、xAIが公開データを削除しても、モデルへの影響は残り続ける可能性がある。訴状は、この点を踏まえて、削除前に学習されたCSAMがモデルの出力を形成し続けると批判している。

訴訟の法的根拠

この訴訟は、米国の連邦児童ポルノ法と「Masha's Law」に基づく。これらの法律は、CSAMの被害者に、生産・所持・頒布に関する損害賠償請求権を与える。原告の弁護士は、xAIが「生産・所持・頒布」のすべてを行ったと主張している。

xAIがCSAMを訓練に使用したと告発されたのはこれが初めて。過去に論争となったデータセットがCSAMを含むとして削除された例はあるが、xAIがそのデータを使った証拠は示されていない。現時点では訴状の主張段階にあり、裁判所が事実認定を行う必要がある。

残る論点

訴状は、xAIがGrokの出力を保存し、それを再学習に使っていると疑っているが、その実態は未確認だ。xAI側はコメントを出しておらず、どのように応答するかは不明。今後の手続きで、訓練データの中身が明らかになるかが焦点となる。

この訴訟にはマスク氏自身も関わる。マスク氏がNSFW画像を宣伝していたことを踏まえ、原告はGrokが性的な出力をすべて拒否するよう求めている。これがAIサービスの表現の自由度にも影響を与える可能性がある。