AI封じ込め計画の公開状況に差 OpenAIが最高、AnthropicとMetaは最低

調査の概要

AI企業が、自社のAIが暴走した際にどう対応するかを事前に決めているか。その「封じ込め計画」の公開状況を、安全なAI開発を促すGuidelight AI Standardsが評価した。対象はOpenAI、Anthropic、Meta、Google、xAIの5社で、公開されている資料だけを基に採点されている。

評価の結果、OpenAIが最高得点の5点中3点を獲得し、AnthropicとMetaは最低評価となった。GoogleとxAIの具体的なスコアは記事内で明かされていない。この調査は、各社が講じている安全対策の実態というより、公開情報から判断できる準備度を示している。

封じ込め計画とは

Guidelight AI Standardsは、封じ込め計画を「AIが制御の回避を試みているのが検知された時点で発動する、事前に決められた計画」と定義している。そこには、モデルから取り消す権限、モデルが引き続き運用されてよい条件、いつ完全に停止するかが含まれる。

この調査の主任科学者で、OpenAIの元安全研究者でもあるスティーブン・アドラー氏は、企業が重大インシデントへの対応をほとんど公表していないことに驚いたと話す。エージェントAIが自律的に行動する範囲を広げるにつれ、こうした計画の欠如は実務上のリスクになり得る。

各社の公開状況に差

OpenAIが最高評価を得たのは、過去に安全インシデントを検出した際、モデルの展開やトレーニングのワークロードを停止し、再開までの手順を説明した実績があるためだ。一方、Anthropicは8月のリスク報告書で、モデルの展開制限を対応策の選択肢として挙げていないと指摘されている。

Metaについては、封じ込め対応計画の存在を示す公開情報が見つからなかったと報告書は述べている。Googleは、この評価が同社の安全対策の全容を反映していないとコメントしたが、非公開の封じ込め計画の有無には回答しなかった。

OpenAIの広報担当者は、社内には権限の制限やワークロードの停止、モデルの完全オフライン化などの手順があり、実際に適用したことがあると説明した。xAIはコメントをしなかった。

規制強化と企業の姿勢

米国では、こうした計画の公開を求める動きが進んでいる。カリフォルニア州のSB 53は今年施行され、大規模AI開発者に対し、重大な安全インシデントへの特定と対応方法を説明する枠組みの公開を義務付けた。ニューヨーク州のRAISE Actも同様の基準で来年1月に施行予定だ。

連邦レベルでは、過激なAIモデルの暴走時に停止できる技術的仕組みを開発者に義務付けるAI Kill Switch Actが提出されている。ただし、企業が詳細な計画を開示しない理由として、約束を果たせなかった場合の法的責任を懸念する専門家の指摘もある。