NSAなど米当局、中国AI企業6社の蒸留攻撃を告発 応答品質低下も辞さない対策要請

NSAなどが6社を告発

NSA（米国家安全保障局）とCISA（サイバーセキュリティ・インフラ安全保障庁）、FBI（連邦捜査局）の3機関は共同発表で、中国のAI企業6社が米国の最先端AIモデルに対し「産業規模の蒸留攻撃」を行ってきたとの見解を示した。名指しされたのはDeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun、Z.AIの6社で、2024年末ごろから続けられたという。

標的にはClaude、GPT、Gemini、Grokのモデルやその派生型が含まれ、中国企業は中国政府の認識のもとで行動した可能性が高いと当局はみる。蒸留攻撃により中国側はフロンティアモデルの訓練にかかる時間と費用を大幅に削減できたとも主張している。こうした能力の抽出が中国のAI開発戦略の「中核」を成すとの認識も示された。

攻撃の手口の特徴

当局によれば、攻撃は推論APIを悪用する形で行われた。同一または類似のプロンプトを数千件から数百万件単位で送り、無登録の偽アカウントを大量に使って回答を収集する手法が挙げられている。プロキシの闇市場を使い、地域制限や不正アクセスの痕跡を分散させていた可能性もある。

プロンプトインジェクションを使い、モデルが回答の裏で行った内部推論を引き出す手口も指摘された。例えばDeepSeekは、完了済みの回答の背後にある推論を想像させ、それを段階的に書かせる指示を利用したとされる。抽出された能力として、エージェント機能、文章最適化、Q&A最適化、Chain-of-Thought推論、ファインチューニング技術、強化学習、ソフトウェア工学、数学などが挙げられている。

求められる対策と副作用

米政府は米国のAI企業に対し、異常なプロンプトやアカウントの監視強化、本人確認の徹底を求めた。さらに、攻撃が疑われる利用者には応答を微妙に変えるか、通知せずに低性能モデルへ切り替えるよう要請する。政府や同盟国と情報を共有し、攻撃手法の変化を追跡することも重要だとしている。

ただし、こうした対策は正当な利用者にも影響を及ぼす可能性がある。米政府も、誤検知された利用者が低性能モデルに切り替わったり、応答が短くなったり、一部機能を利用できなくなったりする可能性を認める。以前には、米国で自動的に低性能モデルへ切り替える仕組みへの反発を受け、AI企業が方針を変えた例もある。

中国側は根拠のない非難と反論

中国外務省報道官は、米国は中国とのAI協力を強化すべきだとして「根拠のない非難」をやめるよう求めた。中国のAI能力向上は自主的な科学技術発展の結果だという主張だ。中国大使館報道官も、米政府の動きを偏見に基づく「中傷」だと批判していた。

人民日報は、米国のAI企業も研究・開発・訓練の過程で中国モデルを使った例があると報じた。中国外務省は、自国の利益に実質的な損害を与える行動には必要な措置を取ると警告している。一方、中国工業情報化部は今後5年間でインテリジェントコンピューティング能力を大幅に拡大する計画を公表しており、2026年9月24日の米中首脳会談を前に緊張が続く。

議論が残る実効性

今回の共同発表は、米政府が中国AI企業を名指しで批判した中では詳細な内容とみられる。ただし、米国のモデル提供各社はすぐにコメントしておらず、告発の裏付けや対策の実現可能性はまだ不明な点が多い。発表の内容がすべて事実と確認できたわけではない。

米政府自身も、中国企業は抽出可能なデータを体系的に見つける適応的な手法を持ち、より高性能なモデルが使えるようになれば24時間以内に切り替えることがあると説明する。対策側にも同様に難しい課題があるとみられる。今後の動向を注視し、証拠や各社の対応が明らかになるのを待つ必要がある。