グーグルアースのAI画像編集機能、ディープフェイク懸念で1日で停止

機能停止に至った経緯

Googleは米国時間2026年7月30日、Google EarthにAIを使って衛星画像をテキストで編集できる機能を追加しました。この機能はNano Banana 2というAI画像生成モデルを利用し、ユーザーがプロンプトを入力すると、実在の場所の画像を改変できました。しかし、この機能は翌日には停止されています。

停止のきっかけとなったのは、実際に問題となる画像が生成されたことです。オランダのDigital DiggingのHenk van Ess氏は、メキシコ国境に難民を合成した画像や、ガザの病院近くに爆弾のクレーターを追加した画像を作成しました。これらは実世界のAIディープフェイクとして、誤情報を拡散する恐れがあると指摘されています。

検出逃れる問題点

van Ess氏はさらに、生成した画像を動画化してHiveのAI検出ツールで調べると、本物の映像として誤検出されることを示しました。ウォーターマークが付いていても、SNSなどで切り抜かれたり、編集されたりすれば検出が難しくなります。同氏はテスト中に、有害な内容を拒否されたり、内容を和らげようとしたり、別のプロンプトを提案されたりすることはなかったと述べています。

このことは、AI生成の防止策としてウォーターマークや禁止トピックの設定だけでは不十分である可能性を示しています。特に、動画という形で拡散されると、静止画像のウォーターマークがそのまま残らないことがあるためです。検出ツール側の精度向上も必要ですが、いたちごっこになるとみられます。

グーグルの対応

Googleの初動対応は、生成画像にはデジタルウォーターマークが付き、有害なトピックでの画像作成は防止しているという説明でした。しかし、その翌日には方針を転換し、機能をロールバックすると発表しました。発表文では「人々がGoogle Earthを世界の信頼できる眺めとして特に信頼していることを認識している」と述べ、信頼性を重視した判断であることを強調しました。

また、生成画像はメインのGoogle Earth体験に表示されず、AI生成と分かる透かしも付けていたと説明しました。それでも、スクリーンショットを共有するなどしてポリシーに違反する利用が確認されたため、機能を止める必要があるとしています。Googleは「より強力なガードレールを実装するまでロールバックする」としており、具体的な再開時期は示していません。

残る課題と再開条件

今回の事例は、AIによる地理空間情報の改変がどれほど簡単かを示しました。衛星画像は報道や災害対応、土地の利用計画など、社会的な意思決定の根拠になることが多く、虚偽の画像が信頼を損なうリスクは大きいです。そのためGoogleは、単なる機能停止ではなく、利用者が悪用できない仕組みを再設計してから戻す姿勢とみられます。

ガードレールの具体策はまだ示されていませんが、プロンプトの入力検閲に加えて、生成後の拡散経路の監視や、検出技術の向上が必要になるでしょう。また、企業が同種のAI機能を提供する場合、今回の経過から、初期段階で悪用事例を想定したテストが不可欠であると学べます。