xAI、ミネソタ州のAI裸体化規制を提訴—Grokめぐり法的攻防に

提訴の経緯

xAIは現地時間の月曜日、ミネソタ州を相手取り訴訟を起こした。同州が制定したAIヌーディフィケーション規制法は、表現の自由を侵害する違憲な法律だというのがxAIの主張だ。この法律は2026年8月1日に施行される予定で、違反する出力が1件見つかるごとに最大50万ドルの罰金を事業者へ科すとされている。

xAIは今月初めにも、Grokの安全対策を迂回してAI生成CSAMを作り出したとされるユーザーへの訴訟を始めている。同社はこの訴訟を根拠に、悪質な行為者への対処はすでに行っていると主張し、ミネソタ州法の適用を免れようとしているとみられる。背景には、アーカンソー州の児童写真家がGrokを使って性的な画像を生成していた事件や、被害者からの訴訟が相次いでいる状況がある。

1件50万ドルの罰金リスク

ミネソタ州法の特徴は、罰金の計算が出力された画像1枚ごとに行われる点だ。xAIの試算によれば、違反画像が10枚なら民事罰だけで最大500万ドル、1000枚なら5億ドル、10万枚なら500億ドルに達するという。これは数百万のユーザーが膨大な画像を生成する公開プログラムでは現実的なリスクだと、xAIは訴える。

さらにこの法律には画像の「配布」という要件がない。ユーザーが自分の端末で見ただけの画像でも罰金の対象になり得るため、xAIの財務リスクはさらに拡大する。また、被害者には個別に損害賠償を求める権利も認められており、複数の被害者が訴訟に参加する可能性もある。

表現の自由と州の立場

xAIは、州法の性的部位の定義が広すぎると指摘する。州法では「内もも」「臀部」「男性の胸」なども性的部位に含まれており、芸術的・教育的・医療的な価値を持つ画像まで規制対象になると主張した。同社はまた、これまでに約7万件のGrok由来のCSAM疑い報告を受け、少なくとも244件の逮捕につながったと実績を強調している。

これに対し、ミネソタ州司法長官のキース・エリソン氏は、州として法律を擁護する方針を示した。「AIを使って同意なくヌード画像を生成することは許しがたい」と述べ、被害者の尊厳を損なう行為への規制は必要だとしている。裁判所が州法を「狭く調整されている」と認めるかが、この訴訟の争点になる。

今後の焦点と注意点

当面の焦点は、裁判所が州法の執行差し止めを認めるかどうかだ。もし認められれば、xAIはGrok Imagineの画像編集機能を現状のまま提供し続けられる。認められなければ、xAIは機能を制限せざるを得ないと同社は述べており、サービスのあり方に直結する問題となる。

一方で、法律問題は州法だけにとどまらない。テネシー州では3月に未成年の少女らによる集団訴訟が提起されており、アーカンソー州の事件の被害者らも追加提訴を準備していると報じられている。xAIはユーザーからの苦情処理や法執行機関との連携を強化しているが、責任の所在を巡る議論は今後も続くとみられる。