Anthropic、今後提供のClaudeモデルにAIテキスト透かし導入 EU義務化で品質論争も

発表の背景

Anthropicは8月11日、今後リリースするすべてのClaudeモデルの生成テキストに、AI生成物であることを識別できる透かしを入れると発表しました。同社はこの方式がGoogleのテキスト透かし技術をベースにしているものの、独自に変更した点の詳細は公表していません。

この動きの背景には、EUのAI法があります。同法は2026年8月2日以降に公開されるAIモデルに対し、AI生成コンテンツの透かしを義務づけました。画像や音声・動画も対象に含まれます。OpenAIはテキスト透かしをまだ導入していませんが、導入計画を明かしています。

テキスト透かしの仕組み

テキスト透かしは、目に見える印やメタデータではなく、LLMが次に来る単語を選ぶ確率分布をわずかに変えることで埋め込まれます。2023年にKirchenbauer氏らが提案した手法では、単語を赤リストと緑リストに分け、緑リスト側の単語が選ばれやすくなるよう確率を調整します。

単語の選択パターンに透かしが埋め込まれるため、人間には判別できません。鍵を使った統計的な検出が必要です。Kirchenbauer氏らは約200トークンの文章で98.4%の検出率、偽陽性ゼロを報告しました。また、長い文章から透かしを消すには、およそ4分の1以上の単語を書き換える必要があるとされています。

品質への影響を巡る議論

技術ブロガーでMarkdown共同開発者のJohn Gruber氏は、画像と比べてテキストには変更の余地が少なく、品質や意味を保ったまま透かしを入れるというAnthropicの主張には無理があると批判しています。画像は数百万画素を扱えますが、テキストの応答は数十語から数百語程度しかないためです。

一方、Googleは2024年の論文で、Geminiのユーザーからの約2000万件の応答を透かしあり・なしにランダムに振り分け、フィードバックを比較しました。その結果、品質に有意な差は見られなかったと報告しています。

ただし、Metaの研究者Vinu Sankar Sadasivan氏は、20語程度のツイートや簡単なPython関数など、出力の選択肢が少ない場面では透かしと品質の両立が難しいと指摘します。Googleの論文でも、短い応答では検出率が50%を下回るケースがあるとされています。Anthropicは追加情報の提供を断っており、実運用での品質と検出率のバランスは外部からは未検証です。

透かしの役割の広がり

テキスト透かしは、AI生成物のラベル付けだけを目的としていません。Kirchenbauer氏らが執筆した2026年の論文では、透かし付きテキストで学習したAIモデルの出力にも同じ透かしが残ることが示されています。この性質を利用すると、自社が公開した文書がモデルの訓練データに使われたかどうかを統計的に推定できます。

また、AI企業が新モデルを訓練する際、前世代モデルが生成したテキストを学習データから除外する用途も想定されています。AIが自ら生成した出力を繰り返し学習して誤差を拡大させる「モデル崩壊」を防ぐ仕組みとして期待されています。

今後の論点と不確定要素

現時点で公開されている情報は限られています。Anthropicの透かしが具体的にどのようなアルゴリズムで動くのか、どの程度の強度で埋め込まれるのか、コード生成や短い応答でどのような性能になるのかは明らかになっていません。

同社は透明性を高めるための技術文書を公開していないため、第三者による検証も進んでいないのが現状です。EUの規制対応が目的の一つである以上、今後は透明性を確保する仕組みが別途求められる可能性もあります。