Google DeepMindとシンガポール政府、オンデバイス詐欺検出モデルを発表

何が発表されたのか

Google DeepMindとシンガポール政府技術庁（GovTech）は、市民を詐欺から守るためのオンデバイス詐欺検出モデルを発表しました。両者はシンガポール政府との「National AI Partnership」の一環として協力してきたと説明しています。発表の場は2026年のSingapore International Cyber Week（SICW 2026）です。

背景には詐欺手口の変化があります。原文によれば、単純なフィッシングから、説得力のある会話で被害者を誘導する複雑なソーシャルエンジニアリングへと移行しており、こうした手口が損失全体の最大80%を占めるとされています。シンガポールでは詐欺が報告された犯罪の半数以上を占め、2019年以降の損失額は40億シンガポールドルを超えています。

汎用のモデルは地域特有の騙しの手口が苦手で、検出が難しくなりやすいと指摘されています。そこでローカルの詐欺会話に合わせた調整が行われました。

端末内で解析する仕組み

このモデルはGoogle DeepMindの軽量モデル「Gemma」を、シンガポール固有の詐欺会話で微調整したものです。公的機関・銀行・地元の著名人になりすました会話や、その地域で流行している手口が学習に含まれており、無害な雑談と本当の誘導を見分けられるようにしていると説明されています。

従来の脅威検知はクラウド上でのサーバー側スキャンが中心でしたが、多くのメッセージングサービスはエンドツーエンド暗号化を採用しており、会話の中身を検査できません。そこで会話データを端末上で処理し、操作的な意図を検知したらその場で警告を出し、金銭や認証情報を渡す前に行動できるようにする方式を採りました。

端末で複雑な分類モデルを動かすには電池消費が課題になるため、2段階のパイプラインを組んでいます。第1段階では軽量な分類器が最小限の電力で受信メッセージを選別し、第2段階で微調整済みGemmaが会話のより広い範囲を評価して、脅威の確定か誤検知の切り捨てを行う構成です。

プライバシーと統治の設計

開発では厳格なガバナンスが保たれたと説明されています。微調整はGovTechが管理・運用するGoogle Cloud（GCP）環境内で行われ、学習データは隔離されていました。これは「Sovereign Sandbox」と呼ばれています。

学習データには私的な情報や個人識別情報を一切含めず、詐欺の報告やインテリジェンスから作られた匿名化データセットのみを使ったとされています。また、合成対話や地域のコーパスを用いたストレステストを実施し、多様な詐欺カテゴリと変化するなりすまし手口をカバーしたとのことです。

位置づけと残る論点

この取り組みは、暗号化された通信を守りながら利用者保護を両立させるモデルケースだと位置づけられています。原文は、メッセージングプラットフォームやOSベンダーがこうした軽量モデルを直接統合し、ユーザーを端末側で守れると述べています。

一方、原文には提供時期や価格、シンガポール以外での展開予定は示されていません。検出精度の具体的な指標や誤検知率の数値も公表されていません。実運用での効果は、今後の導入状況や評価結果を待つ必要がありそうです。