OpenAI、EUでChatGPTのテキストに電子透かし　新手法textGrainを公開

EU域内で透かしを導入

OpenAIは月曜日、ブログ投稿でEU域内向けにテキストの電子透かしを導入すると発表した。対象はChatGPTとCodexが生成するテキストで、同社によれば数週間かけて、全プランの対象ユーザーに順次展開される。ただし適用されるのはEU域内に限られる。

背景にはEU AI Actの透明性ルールがある。このルールは8月2日に発効し、AI企業に対して、他のシステムが識別できる形でAI生成コンテンツを標識することを求めている。OpenAIの対応はこの義務を意識したものとみられる。

開発者向けには別の経路も用意された。世界中の開発者はAPI経由で、本日から一部のモデルに対して透かしを有効化できる。ただし初期状態ではオフになっており、OpenAIは今回、テキストの透かしを世界共通のデフォルトにはしないとしている。

語の選び方に埋め込む

今回の透かしは、テキストに記号やマークを付ける方式ではない。モデルが次に選ぶ単語を微妙に誘導し、人間の読者には見えないが検出器なら拾えるパターンを残す仕組みだと説明されている。パターンが単語そのものに宿るため、テキストをコピー&ペーストしても一緒に移動する点が特徴である。

OpenAIは発表と同時に、textGrainと呼ぶ手法の技術レポートを公開した。ペンシルバニア大学とイェール大学の研究者との共同執筆で、秘密鍵を使って次の単語の予測を並べ替え、文を完成させる例を示している。こうした誘導を何百回も積み重ねることで、検出器はテキストと鍵だけでAI生成コンテンツを識別できるようになるという。

OpenAIによれば、透かしは利用者を特定するものではない。また、透かしを有効にした状態でもモデルの性能に意味のある変化は見られなかったとしている。

編集で外れる限界

透かしは編集によって弱まることが、OpenAI自身のテストで示されている。あるテストでは、単語の10%を類語に置き換えると、検出率が約92%から66%に低下した。短い文章や数学の解答、翻訳されたテキストも検出が難しくなると同社は説明する。

こうした限界を踏まえ、検出器へのアクセスは当面、承認された研究者と専門機関に限定される。「こうした限界が、初期の検出器アクセスを承認された研究者と専門機関だけに提供する決定につながった」と同社は述べている。

OpenAIはまた、透かしが見つからないことは「人間が書いた証拠にはならない」と注意を促している。テキストが短すぎたり編集されすぎていたり、他社のAIによるものだったりする可能性があるためだ。透かしはOpenAIのシステムが一部を生成・処理したことを示せても、そこにどれだけ人間の判断や編集、創造性が関与したかは示せないとしている。

先行するAnthropic

今回の発表の2カ月前、AnthropicはClaudeが生成するテキストに電子透かしを導入すると表明していた。こちらは世界規模で適用される点がOpenAIの今回の対応と異なる。この決定をめぐっては、一部のClaude利用者から反発の声が上がったと報じられている。利用者側は「指示や文脈、判断は自分が提供した」と主張したとされる。

OpenAI自身も以前にテキストの透かしを開発していたが、公開を見送っていた。The Wall Street Journalが2024年に報じたところによれば、透かしを入れない競合他社に利用者が流れる懸念があったことが理由の一つとされる。

Anthropic、Google、Meta、Microsoft、OpenAIは、AI生成コンテンツに関するEUの行動規範に従うことにコミットした企業として挙げられている。テキストへの標識付けは、規制対応と利用者体験のバランスを問う論点になりつつある。