OpenAI、EU AI Act対応でtextGrain透かしの方針を公表

EU AI Actへの対応方針

OpenAIは2026年10月5日、「Our approach to EU text provenance rules」と題したブログで、EU AI Actへの対応方針を説明した。EU AI Actは、生成AIの提供者に対し、生成されたテキストを機械可読な形で識別可能にすることを求めている。同社は透かし入れとその検出がまだ初期段階の技術であり制約が大きいと位置づけたうえで、段階的なアプローチを取るとしている。

具体的な内容は3点に整理できる。第一に、APIの顧客は全世界で対象モデルのテキスト透かしをオプトインでき、APIでの既定値はオフのままとする。第二に、今後数週間でEU域内の対象となるChatGPTとCodexのテキスト出力に不可視の透かしを付与する。第三に、透かし検出ツールへの申請受付を開始し、当初は評価と改善に協力できる承認済みの研究者と専門組織に限定する。画像と音声の検証ツールは引き続き公開される。

textGrainの仕組みと性能

テキスト透かし技術の名称はtextGrainで、モデルが語を選ぶ際に不可視の統計的なシグナルを加える仕組みだと説明されている。検出器はそのシグナルを探し、対象の文章にOpenAIの透かしが含まれるかを評価する。詳細は技術レポートで示され、今後数週間で追加情報に更新される予定である。同社はこの技術をオープンソースとして公開し、他者がその上に開発できるようにすることも計画している。

評価では、textGrainはテキスト向けのSynthIDを含む同社が試した他のアプローチと同等かそれ以上だったとしている。ただし理想的な条件下での高い性能は、日常的な利用での信頼できる検出を保証するものではないと注意を促している。誤検知率1%を目標とした時点で、心理学などの内容では200トークンの文章で約80%、400トークンの文章で約95%の透かしを検出できた。語の選択の自由度が低い数学のような内容では検出率が大幅に下がったという。

編集に対する弱さも数値で示されている。400トークンの文章で語の10%を類語に置き換えると検出率は約92%から66%に下がり、25%を置き換えると17%まで低下した。一方、最新のフロンティアモデルであるAstraについて、同社が評価に使う複数のベンチマークでは透かしの有無による意味のある性能差は見られなかったとしている。

透かしが示さないもの

OpenAIは、透かしが示す情報は限定的だと明確にしている。透かしは人の寄与度を測るものではなく、OpenAIのシステムが文章の一部を生成または処理した可能性を示せても、人間の判断や編集、創造性がどれだけ加わったかは分からない。所有権や責任の所在を確定するものでもなく、利用者個人やアカウント、プロンプト、会話を文章と結び付けるものでもない。内容の正確さを検証するものでもないとしている。

透かしが検出されなかったことは、人間が書いた証明にはならない。OpenAIのツールで生成されたテキストでも、短すぎる場合や編集・翻訳された場合は検出が信頼できないことがある。対象外のモデルによる出力、透かし導入前の出力、他社ツールで生成されたテキストも同様である。こうした誤検知と見逃しのリスクが、検出ツールを当初は一般公開しない判断につながっている。

画像・音声との関係

OpenAIは、単一の来歴技術だけでは不十分だとして、オープン標準・耐久性のある透かし・検証ツールを組み合わせた多層的なアプローチを取っている。対応する画像出力にはContent Credentialsを付与してC2PAに準拠し、対応する画像と音声にはSynthIDの不可視の透かしを埋め込む。画像と音声の検証はopenai.com/verifyとContent Provenance APIを通じて提供されている。

テキストは画像や音声よりも書き換え、翻訳、編集が容易であり、同じようには扱えない。同社は検出精度の改善、透かしが編集や翻訳にどこまで耐えるかの研究、AIによる支援とAIによる著作をより意味のある形で区別する方法の検討を続けるとしている。方針は技術、標準、証拠の進展に合わせて見直すとしている。

現時点で不明な点

技術レポートの詳細は今後数週間で更新される予定だが、現時点では内容は公表されていない。オープンソース化の時期や範囲、検出ツールを研究者以外に開放する時期も明示されていない。APIで透かしの対象となる「select models」が具体的にどのモデルを指すのかも、このブログでは示されていない。

EU域内でのChatGPTとCodexへの透かし付与は、同社が「EU only」と明記しており、起動時点で世界共通の既定にはしないとしている。EU域外で既定有効化するかどうかは、地域限定の導入で得られる実際の利用データとフィードバックを踏まえて判断されるとみられる。クラウドパートナー経由の出力への対応も「今後数週間」とされており、具体的な時期は示されていない。