Google、SynthID検出ツールを一般公開　OpenAIなど他社の透かしにも対応

何が発表されたのか

Googleは、AIが生成したコンテンツに埋め込まれた不可視の透かし「SynthID」を検出するツールを改良し、専用サイトSynthID.comで公開したと発表した。SynthIDは、AI生成の画像・動画ではピクセルの中に、AI音声では波形の中に符号化される目に見えない信号である。Googleによれば、Geminiだけで1800億件を超える画像・動画と、24万年分に相当する音声にSynthIDを組み込んでいるという。

これまで、Googleの限定テスタープログラムの参加者以外がSynthIDの有無を確認する方法は、Geminiに尋ねることだけだった。単純な「はい」「いいえ」が欲しい場面でも、モデルの応答が分かりにくいことがあった。新しいサイトではGeminiを介さずに、コンテンツにAIの透かしが入っているかを確認できるようになる。

他社の透かしにも対応

従来の検出器の大きな制約は、Google版のSynthIDしか検査できなかった点にある。たとえばChatGPTが生成した画像にもSynthIDは入っているが、Googleの検出器では検出されなかった。拡張版では、OpenAI、Nvidia、Kakao、そしてまもなく対応予定のAppleを含む、SynthIDパートナー各社が持つ固有の透かしを扱えるようになる。

これにより、各社の検出器を個別に開いて確認する手間が減り、1カ所で複数のAIシステムが関与したかどうかを調べられるようになる。ただしサイトで得られる情報は、Google内部ツールよりも少ない。内部ツールはSynthIDの信号がある画素の領域を示していたが、公開サイトは生成や編集にSynthIDが使われたかどうかを伝えるだけだと説明されている。

ログインと利用回数の制限

ツールの利用にはログインが必要で、Google、OpenAI、Appleのアカウントに対応する。利用は誰でも可能とされているが、ログイン要件が使える量を制限している。Googleによれば、1ユーザーあたり「1日あたり約10回の画像・動画・音声チェック」の割り当てが与えられるという。

以前の検出ツールにも同様の制限があった。Googleのエンジニアは、SynthIDを除去するツールの開発に使われるのを防ぐため、アクセス制限が必要だとArs Technicaに語っている。正確な回数が曖昧なのは、よく似た画像を複数チェックした場合に、より早くロックされる可能性があるためだとみられる。除去の手順を調整しようとしている兆候と見なされるためである。

透かしだけでは捉えきれない範囲

GoogleのパートナーだけがAIコンテンツの供給源ではない。Metaのように別の透かし技術を使う事業者もあれば、透かしを一切使わない事業者もある。オープンウェイトモデルを自前のハードウェアで動かせば、単純なメタデータのラベルすら付かない、現実味の高いコンテンツを作れてしまう。

そのため、SynthIDのツールでAIと判定されないコンテンツは多数存在する。サイトにはその旨の免責事項が表示されるという。さらに、Googleの取り組みにもかかわらず、誰かがSynthIDを取り除く方法を見つけ、既存のAIコンテンツが本物らしく見えるようになる可能性も考えられる。事後に透かしを検出する方式の限界である。

逆のアプローチとして、本物の画像・動画・音声を生成された時点で暗号技術C2PAによってラベル付けする方法がある。GoogleのPixelスマートフォンは、それを実践している数少ないデバイスの一つとされる。