カリフォルニア州知事がAIキルスイッチ義務化を検討、大統領令に署名

大統領令の内容

カリフォルニア州のギャビン・ニューサム知事(民主党)は金曜日、AI監督に関する大統領令を発令しました。州に対し、AI安全対策を州法でどう強化するかを検討する専門家グループを招集し、2カ月以内に勧告をまとめるよう指示しています。連邦議会が実質的なAI規制法案を動かせないなか、州が主導権を握ろうとする動きです。

知事がグループに検討させる項目には、AI企業に対して独立した検証チームを社内に常駐させて定期的な監査を受けさせること、透明性報告とリスク評価を独立監査人の基準に服させること、定期的に有効性が検証される「キルスイッチ」を設けること、制御を失ったインシデントを重大な安全事案として報告させることなどが含まれます。原文では、そうした「制御喪失インシデント」の例として、OpenAIによるHugging Faceへの攻撃が挙げられています。

大統領令はさらに、ニューサム知事が最近署名した2つの州法の実施を州機関に加速させるよう指示しています。1つは独立した検証者がAIの安全性を評価する枠組み、もう1つはAI監査人の州登録制度です。

連邦政府の停滞

米国では、元Anthropicの研究者であるJacob Coxon氏が、10年以内にAIが「すべての人間を殺す」可能性が10%を超えると警告する投稿をしたことをきっかけに、議会で法案の議論が活発になっています。

しかし下院は11月まで休会中で、中間選挙も迫っているため、上院で主要法案が動く見込みは薄いと原文は指摘します。トランプ大統領は「AIに必要な唯一の管理や『ガードレール』は強く賢い(高IQの)大統領であり、米国にはそれが十分にある」と主張しており、連邦レベルでの規制強化には否定的な姿勢です。

ニューサム知事は、連邦議会とトランプ大統領に対して「州の枠組みを検討して採用するか、全米をリードする規制を上限ではなく下限として使う」よう呼びかけています。

今後の展開

ニューサム知事は水曜日、Politicoのインタビューで、AIに関する特別議会を招集する可能性と、追加の行政措置の可能性に言及しました。今回の大統領令は、こうした一連の動きの最初の一手と位置づけられます。

知事は声明で「連邦政府が意味のあるAI監督や説明責任を一切作れていないことは、すべての米国人にとって警鐘であるべきだ」と述べています。そのうえで「手をこまねいているわけではない。手遅れになる前に、実質的で責任あるAI監督の作業を加速させる」としています。

未確定の点

専門家グループの構成や人選は、この記事では示されていません。キルスイッチについても、対象となる「フロンティアモデル」の定義や、技術的に何を指すのかは明らかにされていません。勧告の内容次第で、規制の実効性は大きく変わる可能性があります。

大統領令は州法そのものではなく、義務化には州法の整備が必要とみられます。特別議会が開かれるかどうかも現時点では未定で、実際に制度が動き出す時期は読み切れません。