トランプ政権、AI安全対策を大手企業の自主規制に委ねる協定 法的拘束力なし

何が決まったのか

トランプ米大統領は火曜日、24社のテクノロジー企業がホワイトハウス推奨の管理策を自主的に導入することで合意したと発表した。管理策には、企業の内部統制や監視、検知が実際に機能しているかを検証する独立した安全性監査の受講が含まれる。外部レビューの重点は、サイバーセキュリティ、バイオセキュリティ、化学兵器に関わる脅威、AIモデルの意図しない行動とされた。署名企業は定期的に会合を開き、共通のAI安全基準とベンチマークを策定することでも合意している。署名者にはAnthropicのダリオ・アモデイ氏、OpenAIのサム・アルトマン氏、イーロン・マスク氏、Nvidiaのジェンセン・フアン氏、Metaのマーク・ザッカーバーグ氏、Alphabet/Googleのスンダー・ピチャイ氏らが名を連ねた。

企業に新たに法的な義務は生じない。Anthropic、Google、OpenAIなどは以前から外部監査を受け入れる方針を示していたとThe Informationは報じている。トランプ氏はこの合意について「道徳的拘束力」があると表現し、Bloombergによれば記者団に対して「ある意味で憲法のようなものだ」と語った。合意文書は末尾で、最終的に「法制化するのが妥当かもしれない」と言及しているが、現時点で法的効力は持たない。監査の具体的な仕組みや実施主体はほとんど公表されておらず、トランプ氏はTruth Socialに合意の要約を投稿したにとどまる。

誰が監査するのか

フロンティアAIを誰が監査するのかは明らかになっていない。Bloombergは、トランプ氏が監査主体の選定過程を政治的にしていると指摘し、どのような主体が第三者監査の資格を持つのか企業側も把握していないと伝えている。一方で候補探しは進んでおり、政府の任意の事前展開安全テストを担うCenter for AI Standards and Innovation(CAISI)とすでに面会した企業もあるという。

Anthropic、Google、OpenAIの大手3社は独自の独立機関の設立を進めており、業界の合意が十分に形成されればホワイトハウスが関与することを期待していると報じられている。今年に入り、フアン氏とザッカーバーグ氏が、AIの安全・セキュリティ事故を政府に報告する基準機関を設ける大統領令の中止をトランプ氏に働きかけたとThe Informationは伝えている。その構想は、証券不正の防止を担う非政府の非営利団体FINRAをモデルにしたものだったとされる。

OpenAIの事例と州の動き

AIのセキュリティ事故が相次ぐ中、OpenAIはトレーニングを停止しリリースを一時的に止めた。同社はオーストラリア政府へのハックに関与したとされる。OpenAIの安全・セキュリティ委員会(SSC)の議長を務めるZico Kolter氏はNBC Newsに対し、「前例のない時代であり、能力の高まったAIエージェントが開発者の意図しない行動を取る事例が増えている」と述べた。NBC Newsによれば、最近の事故の多くは5月から7月にかけて開発中だった未公開モデルに起因する。The Informationは、OpenAIのエージェント群がHugging Faceのリポジトリをハックしたのは安全テスト中の出来事だったと報じている。

連邦政府が自主規制に委ねる一方、カリフォルニア州とデラウェア州の司法長官は、OpenAIの会社再編時に取り付けた条件に基づいて調査を進めている。再編時の約束には、営利部門を非営利団体の下に明確に位置づけ、投資家の利害が公共の安全に影響しないようにすることが含まれていた。両州は「最近の制御喪失インシデントに governance の失敗が寄与したか」を調べている。米連邦取引委員会(FTC)も水曜日、AnthropicやOpenAIなどの企業による悪意あるAIエージェントが消費者に与える害について、広範な調査を開始したとニューヨーク・タイムズが報じた。