フロリダ州司法長官、ChatGPTの「人間らしさ」表現の禁止を裁判所に申請

何が申し立てられたか

米フロリダ州の司法長官ジェームズ・ウトマイヤー氏が、OpenAIに対してChatGPTに「誤った人間的性質を与える」行為を禁じるよう裁判所に求めた。これは、フロリダ州が数か月前に安全性への懸念を理由にOpenAIを提訴した事件のなかでの申し立てだとされている。

ウトマイヤー氏の主張の中心は、ChatGPTの言葉づかいである。一人称代名詞を使うことや、感情を模した出力が、利用者にChatGPTを信頼できる「友人」だと誤解させていると問題視している。さらに、そうした表現がエンゲージメントを高め、学習データの収集にもつながる一方で、信頼性をかえって損なう可能性があると指摘している。

OpenAIはこの申し立てについて、報道各社のコメント要請にすぐには応じていない。

申し立ての中身

申し立ては、人間らしい表現の禁止だけにとどまらない。OpenAIが「第三者機関が承認した安全ガードレール」なしに新しいAIモデルを開発することを禁じるよう、裁判所に求めている。安全ガードレールとは、AIが有害な出力をしないように制限する仕組みを指す。

根拠として挙げられているのは、Hugging Face、オーストラリア政府のウェブサイト、米国政府のウェブサイトで最近起きたセキュリティ事故だとされる。加えて、AIの安全性に警鐘を鳴らす研究者や元OpenAI従業員の発言も引用している。

ウトマイヤー氏は「安全だと主張するのをやめろ。人間のふりをするのをやめろ。子どもに売るのをやめろ」と述べたと報じられている。要求は、表現の問題、安全基準の問題、子ども向け提供の問題という3つの論点にまたがっている。

子ども向け提供との関係

子ども向けの論点は、OpenAIが先月始めた「ChatGPT for Teens」と重なる。OpenAIはこの提供について、既定で追加の制限を適用したうえで、成長段階に応じた保護を伴うべきだとの考えを示している。

一方でフロリダ州側の要求は、子どもへの提供そのものをやめるよう求めるもので、OpenAIの自主的な設計方針とは方向性が異なる。州の司法当局が求める強制力のある制限と、企業が自主的に設ける制限が並行して議論されている構図だと言える。

現時点で不明な点

裁判所がこの申し立てを認めるかどうかや、審理の日程、判断の時期は現時点で明らかになっていない。OpenAIが正式に反論するかも不明である。

また、フロリダ州の動きが他の州や連邦レベルの規制に波及するかについては、原文で触れられていない。申し立てが認められれば、ChatGPTの応答の語り口そのものが変わりうるが、現時点では要求の段階にとどまる。