Google DeepMindで軍事AI契約に抗議する従業員の辞職が相次ぐ

何が起きたのか

BBCは、GoogleのAI部門であるGoogle DeepMindを最近辞職した、あるいは辞職手続き中の複数の技術者に取材した。辞職の理由として挙げられているのは、同社が米国やイスラエルの軍と結んでいる契約への懸念である。ロンドンを拠点とするリサーチエンジニアのSofia Liguori氏は今週Google DeepMindを辞職し、契約上の制約があるにもかかわらずBBCの単独取材に応じた。

Liguori氏は「自社が軍事作戦向けのAIシステムをますます推し進めていると気づき、Googleで働くことに恥ずかしさを感じる」と、個人としての立場で語った。AI研究者のAndreas Kirsch氏も今月に入って同じ理由で辞職している。同氏は、軍事・機密環境でAIを安全かつ責任ある形で配備するには、Googleのガバナンスと監督が十分でも有意義でもないとの見方を示した。

これに対しGoogleの広報担当者はBBCに、公共部門の組織と世界で仕事をしており、許容利用ポリシーやAI原則への準拠を含む一貫した審査プロセスに従っていると答えた。懸念を安全に申し出る専用の窓口があり、報復を防ぐ厳格な職場方針も設けているとしている。

契約の範囲と広がり

今年、Googleを含む複数の技術企業が米軍と契約を結び、機密の軍事環境でAIを配備できるようにした。米国防長官のPete Hegseth氏はAIの軍への統合を重点課題に位置づけ、トランプ政権が「AIファーストの戦闘力」になると述べている。Googleとペンタゴンの契約では、AIモデルを「あらゆる合法的な政府目的」に使える一方、適切な人間の監督と管理がなければ国内の大量監視や自律型兵器（目標選定を含む）には使うべきでないとしている。

OpenAI、Amazon、Microsoft、SpaceX、Oracle、Nvidia、スタートアップのReflectionも同様の契約を結び、輸送や計画、戦場での作戦といった幅広い軍事場面でAIを配備できるようにした。従業員らが特に懸念しているのは今年署名された契約で、ペンタゴンが技術を使える範囲が大きく広がった点である。

現場の技術的懸念

米軍はすでに複数のAI技術を配備している。代表例が、ペンタゴンが諜報やデータの整理に使う主要なソフトウェア基盤Maven Smart Systemsである。米防衛企業Palantirが開発し、AIを使って要員が攻撃対象を選択・識別するのを支援する。Palantirは複数の有力AI企業の技術をMavenに統合しており、一部の処理は大幅に高速化された。

元Maven責任者であるJack Shanahan退役中将は、「可能な限り速く、可能な限り広く配備する」という哲学があると指摘し、テストと評価の厳密さや規律が犠牲になる可能性に言及した。一方、国防総省のEmil Michael次官は今年初め、「AI時代にはスピードが勝利を決める」と述べている。

元OpenAI地政学チーム責任者のSarah Shoker氏は、AIは人間より速く動くため、オペレーターが意思決定に使える時間を圧縮し、高ストレスの環境では特に危険だと指摘する。AIが選んだ標的が数百件あり、与えられた時間が短ければ、人間がAIの出力の誤りを実質的に確認することはほぼ不可能だとしている。

残る不明点と論点

契約の詳細は明らかになっていない部分が多い。Kirsch氏は、GoogleがペンタゴンによるAIの使われ方を管理・拒否する権利を持たず、配備状況の可視性も限られていると主張する。ただし契約全文が公開されているわけではないため、その主張がどこまで契約条件に裏づけられているかは不明である。

従業員が声を上げにくい構造も指摘されている。Liguori氏は、在職中は会社を批判できない契約になっていると語り、報復への恐れから発言できないと述べた。匿名の現従業員は、当初のミッションに共感して入社した人材が辞める一方、若手がその穴を埋める「世代交代」になる可能性があると話している。

イスラエルとの契約も論点になっている。2024年には、Amazonとの共同契約Project Nimbus（12億ドル、9億6000万ポンド）が従業員から批判された。Googleは当時、Nimbusは兵器や諜報に関わる機微・機密・軍事用途を対象としていないと説明していた。