米軍、AIチャットボットの幻覚で中国船攻撃作戦を直前中止 CNN報道

何が起きたのか

CNNの報道によると、この春、米軍が中国船に対する武力行使の準備を進める中、航空機はすでに空中にありました。その段階で米当局者が、作戦を動かしていた情報がAIチャットボットによって生み出された「幻覚」だったと気づき、作戦は土壇場で中止されました。中国との偶発的な衝突につながりかねない状況だったとされています。

問題となった情報は、その船が核兵器計画の部品を輸送しているという内容でした。これはイランとの戦争のさなかに流通していたと報じられています。つまり、作戦の根拠として指揮系統に流れた文書は、実在しない脅威を描いたものだったことになります。

誤情報はどう広がったか

誤った情報の発端は、特殊作戦軍(Special Operations Command)の分析官がAIチャットボットに問い合わせたことでした。公開情報(オープンソース)と機密のシギントを統合させようとしたもので、チャットボットは船の貨物目録を誤って識別しました。

さらに分析官は同じツールを2度目に使い、その誤った結果を公式文書のように見える要約へと整形しました。この要約は指揮系統を通じて共有され、疑問を挟まれる前に上層部へと届いたとみられます。AIの出力をそのまま「それらしい体裁」に変換する使い方が、誤りの伝播を後押しした形です。

米軍のAI導入と速度の罠

米軍は意思決定を速め、中国に対する優位を保つためにAIの統合を急いでいます。ペンタゴンは、AIがキルチェーン(目標の探知から攻撃までの一連のプロセス)を短縮し、司令官が適切なタイミングで対応できる大きな利点をもたらすと説明してきました。

しかし、AIを魅力的にしているその速度は、人の監視が不十分なまま幻覚が混入する余地も同時に広げます。今回は作戦直前に人の判断が働いた例ですが、情報が指揮系統を上る過程に検証が挟まれにくいという構造的な課題が示された形です。

専門家はどう見るか

GovAIの研究員で米陸軍の退役将校でもあるジェイク・ステックラー氏はTechCrunchへの書面回答で、LLM(大規模言語モデル)が本質的に不確実なものであることを軍人が理解する必要があると述べています。とくに標的選定や情報分析、作戦立案など武力行使につながり得る判断では重要だとしています。

同氏はこの件を、AI利用を避ける理由ではなく安全策を追加する呼びかけとして受け止めるべきだとしています。導入速度を何よりも優先すれば、軍人がシステムへの信頼を失う出来事が増え、結果的に導入そのものが遅れると指摘しています。

現時点で不明な点

作戦の中止を決めた具体的な経緯や、関与した部隊・船籍・日時といった詳細は、この報道では明らかにされていません。分析官にどのような訓練や確認手順が求められていたのか、また使われたAIツールの提供元や種類も不明です。

米国防総省がこの件を公式に認めたかどうかも、記事からは分かりません。同種の事例が他にも起きているかどうかは、今後の情報公開を待つ必要があります。