Anthropic、EU AI法対応でClaude全モデルに透かし導入へ

発表の概要

Anthropicは、自社のAIモデル「Claude」の全モデルで、生成したコンテンツだけでなく、処理したコンテンツにも機械可読な透かしを導入すると発表した。同社のサポート記事で明らかになった。これは、EUのAI法（AI Act）への対応として行われる。

EUのAI法では、AIシステムの提供者に対し、AIが生成または操作した音声・画像・テキスト・動画の出力に透かしを付けることを義務付けている。法律は2026年8月2日以降にリリースされたモデルに適用され、それ以前のモデルには2026年12月までの猶予期間が与えられている。Anthropicは、今後リリースされる新しいモデルには初日から透かしを入れるとしている。

透かしの仕組みと限界

透かしの仕組みは、テキストの場合はモデルの単語選択を特定のパターンに偏らせることで埋め込まれ、ユーザーには目に見えない。この透かしはコピー＆ペーストしても維持されるが、別のAIシステムで編集されると消える可能性がある。また、スクリーンショットやメタデータ編集により、簡単に除去できるとみられる。

画像や動画に対しては、C2PAメタデータ方式が使われる。C2PAはコンテンツの来歴情報を記録する技術標準で、編集履歴や作成者を埋め込むことができる。しかし、Anthropicは「一部のプラットフォームや機能では透かしが機能しない」としている。

さらに、透かしが検出された場合でも、それがClaudeによる処理を完全に証明するわけではない。Anthropicは「検出されたマークはClaudeが処理した可能性があるという信号に過ぎず、完全に結論づけるものではない」と説明している。つまり、透かしの有無だけでAI生成かどうかを判断するのは難しい。

EU AI法との整合性

EU AI法では、モデル提供者に透かしを義務付ける一方で、コンテンツを公開する側のラベル要件は別のルールが定められている。たとえば、AIが生成したテキストでも、公共の利益に関する情報でなければラベルは必須ではなく、編集者が責任を負う場合は公開ラベルが免除される。このため、モデルレベルでは「すべてに透かし」、公開レベルでは「条件付きでラベル不要」という非対称な状況が生まれている。

Anthropicは、法律で免除されているケースでも透かしを適用する。校正や翻訳などの軽い編集も対象となるため、人間が書いた文章に透かしが付くことがある。同社は「人々がClaudeを校正、翻訳、要約、ファイル変換に使うことが多い。基礎となるアイデアやテキストが別の情報源に由来する場合でも、出力にはClaudeのマークが付くことがある」と述べている。

今後の展望

Anthropicは、透かしの検出方法や検出用APIを提供する計画を示している。ただし、検出方法が公になれば、それを回避するツールが開発されるリスクもある。また、透かしが誤検出を引き起こす可能性も未検証だ。

EU AI法に違反した場合の罰則は最大1500万ユーロまたは全世界売上の3%とされ、AI企業にとっては無視できない規模になる。Anthropicの対応は、他のAI企業にも影響を与えるとみられる。また、EU以外の地域でも、同様の規制が将来導入される可能性がある。