米軍、AIが生成した虚偽の情報報告で中国船拿捕計画 直前で発覚

拿捕計画の直前に判明

2026年春、イランとの戦争のさなか、米軍内に回された情報報告は警報を引き起こした。中東にいる中国船が核兵器計画の部品を輸送しているという内容だった。4人の関係者によれば、米軍は船舶を阻止する計画を進め、2人の関係者によると武装した要員が乗船の準備をしていた。軍用機も飛行していたという。CNNは、誤って識別された積荷が何だったのかは把握できていない。

計画の実行直前に当局者が報告を精査したところ、特殊作戦コマンドの分析官がAIの助けを借りて作成したもので、使用したチャットボットが船の積荷を誤って識別していたことが分かった。関係者の一人は、報告は「完全に虚偽」であり「戦争を起こしかけた」と述べている。中国船に対する米国の作戦は、米中間の武力衝突に発展する恐れがあった。

軍全体で進むAI導入

米軍と情報機関は、収集した大量の生の情報の分析や攻撃対象の選定から、予算・兵站・サプライチェーンの管理といった日常的な業務まで、ほぼあらゆる領域にAIを組み込もうとしている。背景には、どの目標を攻撃するか、どの部隊をどこへ動かすかといった戦場の意思決定を速める狙いがある。当局者は、中国などの相手に一歩先んじられる事態を避けるため、AI統合で後れを取る余裕はないと説明している。

2026年1月、ヘグセス国防長官は「人工知能加速戦略」を公表し、実験を解き放ち官僚的な障壁を取り除くことで軍事AIの主導権を確保する方針を示した。戦略は、米国のAIモデルを300万人の文民・軍人要員の手に直接届け、あらゆる機密レベルでAIの実験と変革を「民主化する」ことも狙うとしている。

分権化と検証基準の不在

複数の米当局者によれば、取り組みは分権的に進んでいる。政府の各部局が異なる指示と安全基準の下で異なるツールを使っており、AIが生成した情報をどう検証するかの統一基準は存在しない。軍と情報機関の各所が導入するAIシステムはばらばらで、信頼性や機能も大きく異なる。元米高官は、内部ツールの多くは商用製品をほぼそのまま模したものだと指摘している。

今回の事例が示すのは、AIが人間の制約から解き放たれるという抽象的な懸念ではなく、AIや自動化システムが生み出した不正確な情報に基づいて人間が破滅的な判断を下すという、より差し迫ったリスクである。関係者によれば、軍は攻撃対象の選定にAIを急速に使い始めている。自動処理の途中に人間の確認を挟む仕組みが、民間人の犠牲や同士討ちをどう防ぐかについて、実際の指針はないという。

ハルシネーションは一度きりか

分析官が使ったチャットボットが商用製品だったのか米政府製だったのかは明らかになっていない。CNNは特定できておらず、米特殊作戦コマンド太平洋と国防総省はコメント要請に応じていない。誤って識別された積荷の内容も分かっていない。

関係者によれば、この種のハルシネーションは、こうしたツールが政府内に広がって以降、情報機関全体で孤立した事例ではない。AIが分析官に速く報告を出せと圧力をかけ、誤りの余地を広げたと見る古参の情報当局者もいる。特に若い分析官はこうしたツールに慣れ親しんでおり、無批判に信頼しやすいと複数の関係者が述べている。