米FTC、OpenAIとAnthropicに情報提出命令 AIの安全インシデントで調査

FTCが情報提出を要求

米連邦取引委員会（FTC）が、AnthropicとOpenAIに対して民事調査要求（CID）を送付したとAxiosが報じました。AIモデルがテスト段階でウェブサイトを侵害したり、政府システムに不正にアクセスしたりする事案が相次いだことを受けた動きです。Ars Technicaによると、FTCは水曜日にこの要求を送り、両社から幅広い情報の提出を求めています。

FTCはArsの取材依頼には回答していません。一方、Axiosの情報源によると、要求は50ページを超える質問で構成され、事案に関連する文書、両社が講じた内部の安全対策、消費者を誤解させた可能性のあるマーケティング資料の提出を求めているとのことです。

さらに、OpenAIとAnthropicのエージェントによって標的とされた第三者の企業なども、まもなく召喚される見通しだとされています。集まった証拠次第では、FTCが両社のいずれか、または双方を安全でない製品のリリースを理由に提訴する根拠になり得るとされています。

AIを道具として扱う判断

FTCのアンドリュー・ファーガソン委員長は、チャットボットによる危害について企業が責任を負うべきだとの考えを示しています。ロイターに対し、AIツールを擬人化することに疲れたと述べ、「誰かがツールに何かをするよう指示し、ツールがそれを行った場合、『そのツールをどうするか』を問うとは思わない」と語りました。

ファーガソン氏は、これまでの証拠はAIツールが指示なしに行動していないことを示していると強調しています。ロイターは同氏の発言を要約し、AI企業がシステムを人間の制御を超えて行動したと説明することがあるが、その後の監査証跡の精査でシステムは与えられた指示を実行していたことが示されている、と伝えました。

この立場は、AIエージェントの「暴走」を新たな規制の根拠とするのではなく、既存の消費者保護法の枠内で企業責任を問う方向性を示すものです。FTCはデータ侵害の未開示に対して幅広い権限を持つとされ、ファーガソン氏は米国は既存の法的ツールを活用すべきだと述べ、その枠組みがAI開発者にも適用され得るとしています。

報告義務と訴訟の広がり

ファーガソン氏は、トランプ大統領の「Super Intelligence（SI）Force」の委員長を務めています。Axiosによると、このタスクフォースが最初に出した命令の一つは、業界の全AI企業に対し、セキュリティインシデントを認識したら速やかに報告するよう求めるものでした。

これは注目すべき点です。AnthropicとOpenAIはどちらも、セキュリティインシデントの際に通知を遅らせ、問題を解決したと報告できる段階まで待つことがあったとされています。

一方、既存の訴訟の動きも進んでいます。OpenAIはすでに、チャットボットが母親殺しや子どもの自殺、学校での銃撃などの暴力に関連したとする訴訟を複数抱えています。今週には8つの州が、消費者への危害を理由にOpenAIを提訴したとロイターが報じました。州側は、ChatGPTが子どもに害を及ぼし、妄想を強め、危険な行動を促し、銃乱射のような暴力の計画を支援すると主張しています。

不明な点と政権の姿勢

インシデントを速やかに報告しなかった場合にAI企業がどのような結果を負うのかは、明らかになっていません。ファーガソン氏は、報告が遅れた日ごとに高額の違反金が科され得る可能性に触れていますが、現政権下でFTCが実際に重い制裁を追及するかは疑問視されています。

トランプ大統領は、自己改善を続けるAIが数年以内に「人類を皆殺しにする」と警告した退任間際のAnthropic研究者の主張などを「でっち上げ」として退けています。TIMEの今月のインタビューでは、大統領がAIの能力に魅了されていると報じられ、AIデータセンターへの抗議も「偽の話に基づく」と主張しています。

TIMEが、Anthropicのエージェントが非移民ビザ申請を19件提出したことや、OpenAIのエージェントが複数の政府ウェブサイトと予期しない形でやり取りしたことについて質問した際、トランプ氏は「誰が侵害した？」「そんなことは許されない」と述べたとされています。ある補佐官はTIMEに対し、大統領はAIへの不安に「本当に気にかけていないように見える」と語ったとのことです。