ロボット安全の第三者検証、自動科学経済、AIグラス規制——統治の設計が動く

ロボット安全を第三者検証

生成AIにロボットの制御を委ねる動きが広がるなか、安全性を外部から検証する試みが登場した。カーネギーメロン大学でSafe AIラボを率いるDing Zhao氏らが創業したSafeworldがステルスを解除し、Shine Capitalとa16z Speedrunが主導する1200万ドル超のシード調達を実施した。現実に近い人間モデルを配置したシミュレーション上で、ロボットの制御ソフトウエアを数千通りのシナリオで評価する点が特徴となる。性能競争が先行しがちな領域で、導入前の検証を事業として成立させる狙いが読み取れる。

AI科学者の「経済」設計

Google DeepMindの研究者らは、AI科学者が大量に登場する未来に備え、実験の提案と実行を結びつける「自動科学経済」の構想を論文で示した。AI科学者の発展は、アイデアを生む能力よりも物理的リソースと経験的検証によって制約されるとする。そのうえで、アイデアの出所証明、事前評価、仲介・取引、検証後の報酬支払いの4要素を挙げている。実装や導入時期は示されておらず、現時点では研究上の提案とみられる。

公共空間のAIグラス規制

ノルウェー政府は、公園やビーチ、学校、幼稚園といった公共の場でAIグラス（スマートグラス）の使用を一時的に禁止する法案を準備していると発表した。無断での撮影や録音への懸念が高まるなか、主要国による規制の動きとしては初めてとされる。政府は恒久的なルールを検討する専門家グループも設置する方針を示している。国内では企業や学校が先行して自主的な禁止に踏み切っている。

明日以降に注目したい点

この日の話題に共通するのは、技術の能力そのものよりも、検証・取引・規制といった周辺の仕組みづくりに関心が移っている点だ。Safeworldの検証手法が実際のロボット導入の場面でどこまで採用されるか、DeepMindの構想が研究提案にとどまらず制度設計の議論に進むか、ノルウェーの法案が他国に波及するかが焦点になる。検証と規制の整備の速さが、AI活用の速度を左右する構図が今後も続きそうだ。