Anthropic、Claudeの不可視透かしにSynthID-Text型と説明

発表の内容

Anthropicは、自社のAIアシスタント「Claude」が生成するテキストに不可視の透かしを適用する計画について説明しました。これは欧州連合（EU）のAI法が定める透明性要件に対応するための措置です。同社は、この透かしがGoogle DeepMindが開発したオープンソース技術「SynthID-Text」の「一バージョン」であると明らかにしています。画像を処理する際のC2PA対応と合わせて導入される予定です。

Anthropicによると、この透かしによってClaudeの利用コストが上がることはなく、出力の品質や内容にも実用的な影響はないとのことです。ただし、この主張は同社の説明であり、独立した評価はまだ示されていません。そのため、実際の影響については追加の情報が待たれます。

透かしの仕組み

透かしの仕組みについて、Anthropicは具体例を挙げて説明しています。例えば「The weather today was cold and…」という文の場合、次に来る単語が「sugary」である可能性は低く、「overcast」や「grey」などが選ばれることが多いとします。こうした選択は文の意味をほとんど変えないため、通常は乱数によって決まります。透かしを使う場合、このような低リスクの選択のたびに、秘密の鍵と直前の数語を基にランダム性の源を変えます。

これにより、生成テキスト全体に人間には知覚できないパターンが埋め込まれ、鍵を持つ人だけがそのパターンを検出できます。Anthropicは、この方法が利用者のコスト増や出力品質の低下につながらないと説明しています。ただし、実際の強度や検出精度については、同社の説明だけでは十分に検証できない面もあります。

他社の状況

Anthropicの説明によると、EUの透明性要件は主要なAI開発者にも影響を及ぼします。実際、Googleの「Gemini」は2024年からSynthID-Textをサポートしています。一方、OpenAIはChatGPT向けのテキスト透かし計画をAI法の順守ロードマップで詳しく説明しておらず、まだ明らかにしていません。このように、テキスト透かしは業界全体に広がる動きの一部とみられます。

各社の実装方法は同様でも、検出鍵の管理や第三者機関の検証方法などで運用面の差が生じる可能性があります。OpenAIの今後の対応も不明ですが、EU AI法の対象となるため、何らかの形で対応が必要になるでしょう。これは業界全体の透明性が高まる流れと言えます。

今後の論点

今回発表されたのはAnthropicによる技術説明であり、実際の導入時期や検出ツールの提供方法はまだ詳細に公開されていません。透かしは鍵を持つ人だけが検出できるため、一般ユーザーが生成文を見てAI生成かどうかを判断できるわけではありません。また、EU AI法の施行解釈や技術要件が変わる可能性もあるため、今後の動向を注視する必要があります。特に、透かしの削除や改ざんへの耐性は現時点では不明です。

日本市場への影響も不明です。AnthropicはEU AI法への対応として説明していますが、日本のユーザーに対しても同じ透かしが適用されるかは公表されていません。日本の企業が自社のAIサービスに同様の透明性要件を求められる場合には、この技術の適用可能性を検討する必要がありそうです。ただし、実際に導入するにはコストや計算資源への影響も評価する必要があります。