米下院民主党トップ、米中AI条約を提唱　中国AI企業3社に安全対策文書を要求

何が起きたのか

米下院の中国特別委員会で民主党トップを務めるロ・カンナ下院議員(カリフォルニア州選出)が、AIが世界に混乱をもたらすのを防ぐための米中条約を呼びかけた。大統領選への出馬も取り沙汰される人物だと記事は紹介している。

The Vergeが独占で入手した書簡によると、同議員は米国の情報機関と中国のAI企業3社に対し、AIが制御不能に陥る事案への備えを問い合わせた。対象は国家情報長官室(ODNI)と、DeepSeek、Alibaba、Moonshot AI。いずれも高度なAIの開発を進めている企業である。

記事は、今夏の「OpenAIのエージェントによるHugging Faceへのハック」という事案に触れ、こうした事態が近年増えているとしている。公開時点で企業側とODNIからのコメントは得られていない。

書簡で何を求めたか

ジェイ・クレイトン国家情報長官宛ての書簡では、AIラボがボットの制御を失った場合に米国がどれだけ効果的に対応できるかを評価するよう求めている。あわせて、中国政府が壊滅的なAIリスクをどう評価しているかの調査も依頼した。同議員は、この情報が議会やホワイトハウスの対中交渉に役立つと説明している。

中国企業への書簡では、「超知能」と再帰的自己改善(RSI)に向けた取り組みを文書で示すよう要求した。RSIはAIシステムが自らを改善できる段階を指す。さらに安全策や「キルスイッチ」の実装状況、条約が結ばれた場合に非政府機関による査察を受け入れるかどうかも質問している。

カンナ議員は、企業が書簡に全面的に回答する可能性は低いと自ら認めている。以前にOpenAIとAnthropicと並んで開発を減速させるよう求めた書簡にも回答がなかったとされ、今回の狙いは中国企業の間で安全をめぐる議論を起こすことだと述べている。

米国内の政治的構図

今回の動きは、先週ホワイトハウスで行われた習近平国家主席とトランプ大統領の会談を受けたものだ。カンナ議員は会談について、AIを協議し対話を続けることで合意した点は建設的だとしつつ、「十分とはほど遠い」とThe Vergeに語っている。

トランプ大統領は会談当日、Truth Socialに「超知能(SI)は大きな議題になるが、現状のままにしておきたい。それは中国の立場でもある」と投稿した。ジョンソン下院議長はFox Businessで、イノベーションを阻害しない「適切なバランス」の監督が必要だと述べ、中国とのAI競争で遅れを取ることに警告した。

カンナ議員は、ホワイトハウスとジョンソン下院議長、米テック企業幹部による会合についても懐疑的だ。企業の責任を国民に印象づける「ブランディングの exercise」だとし、利益最大化を動機とする企業に安全のルールを決めさせるべきではないと主張している。

実現の見通しと不確実性

カンナ議員が最終的に目指すのは、RSIを禁止しフロンティアAIラボを監視する米中条約だが、早期の実現は難しいと本人も認めている。バーニー・サンダース上院議員(無所属)も同様の条約を呼びかけているが、共和党のジョン・ムーレナー下院議員(中国特別委委員長)は中国政府が約束を守るかどうかに懐疑的だ。

当面は、両国の専門家による作業部会を設け、安全勧告と遵守を担保する方法を検討することが現実的な選択肢として挙げられている。ただしトランプ政権と共和党は規制や協定に抵抗してきた経緯があり、条約交渉が具体的に動き出すかは不透明である。

カンナ議員は、中国のモデルの多くが米国のモデルから蒸留されているとの見方から、米国がAI安全の基準を主導できると期待している。各国の指導者は自国の科学者や技術者と感覚がずれているとも指摘し、議論を技術者主導にすべきだと述べている。