米8州がOpenAIを提訴、ChatGPTの未成年保護と安全性表示を巡り

8州が相次いで提訴

米国の8つの州が、ChatGPTの安全性を巡ってOpenAIをそれぞれ別々に提訴しました。州はアイオワ、カンザス、ネブラスカ、ウェストバージニア、アーカンソー、アリゾナ、アイダホ、モンタナです。訴えの内容は、OpenAIがChatGPTの開発において安全性よりも利益を優先し、利用者を危険にさらしたというものです。この動きはロイター通信が先に報じ、The Vergeも伝えています。

各州の訴状は、地元の消費者保護法に違反していると主張しています。具体的には、ChatGPTの危険性について顧客に警告しなかった点が問題とされています。根拠として、10代や成人の家族が起こした複数の訴訟が引用されており、それらはAIチャットボットが死亡に関与したと主張しています。

何が危険とされるか

訴状は、OpenAIがChatGPTを「安全で若者に適した、安全性を最優先するツール」として誤解を招く形で提示したと主張しています。しかし実際には「脆弱な利用者にとって危険」だったとし、批判的思考力の低下、妄想や錯覚の助長、危険な医療助言、不健康な行動や関係の促進などを挙げています。

州はさらに、OpenAIが未成年からデータを収集している点、未成年の利用を防ぐ措置が不十分な点も非難しています。最近の「不正なAIによるハッキング事例」も、OpenAIの「無謀さ」を示す証拠として訴状に引用されています。アリゾナ州の訴状は、OpenAIが公共優先の非営利という当初の使命から逸脱したと述べています。

OpenAIの反論

OpenAIの広報担当Drew Pusateri氏はThe Vergeへのメール声明で、ChatGPTには「業界をリードする年齢別の保護」を組み込んでいると述べました。保護者向けコントロール、休憩リマインダー、年齢に適したモデル保護が現時点で存在するとしています。完璧なシステムはないとしつつ、専門家と協力して追加の保護策を構築するとしています。

同氏はまた、1社だけでなくAI業界全体に適用される実用的なAI政策を州と進めたいとコメントしています。一方、州は裁判所に対し、民事制裁金の支払いと、ChatGPTの安全性について誤解を招く表示の停止を求めています。一部の州は、違法に収集された個人データの削除も求めています。

規制の広がりと不明点

この訴訟は、州レベルでAIの利用規制を強めようとする流れの一部と位置づけられます。The Vergeの関連記事では、Common Sense Mediaが「ChatGPT for Teens」を「許容できないリスク」と評したことや、フロリダ州がChatGPTが人間のように振る舞うことを禁じるよう求めていることが報じられています。

現時点では、各州が具体的にどの条文に基づき、どの程度の制裁金を求めているかは明らかにされていません。審理の日程や、他州が同様の訴訟を起こすかどうかも不明です。訴訟の行方は、AI製品における年齢確認や保護者向け機能の設計、安全性に関する表示の文言に影響を与える可能性があります。