Google DeepMindがAGI議論の新機関設立、評価枠組みも提案

DeepMind Instituteとは

GoogleとGoogle DeepMindの研究者が設立した新しい組織で、AGIをめぐる議論を広げることを目的としている。理事にはDeepMind共同創業者のShane Legg氏、Google幹部のJames Manyika氏、Google DeepMind会長のDemis Hassabis氏が名を連ね、Legg氏がマネージングエディターを務める。Google、Google DeepMind、そして世界中の研究コミュニティの間にある見解の違いを表に出すことを狙っている。

発表文は、彼らは常に意見が一致するわけではなく、急速に動くフロンティアでは新しいデータや情報が明らかになるにつれて考えを変えるだろう、という趣旨を述べている。単一企業の公式見解として結論をまとめるのではなく、議論の途中経過を公開する場として位置づけられているとみられる。なお、AGIという言葉自体の定義はこの発表では示されていない。

第1弾の4本の論文

設立と同時に公開された4本の論文は、AGIがもたらし得る混乱に対処するための経済政策、モデルの推論を人間が読める形で保つ方法、人間の幸福に関する原則、フロンティアAIモデルを評価する枠組みという幅広いテーマを扱っている。

このうちセーフティ研究者のRohin Shah氏とAnca Dragan氏による論文は、モデルの判断過程を確認できる「透明性の窓」が狭まっている状況は避けられないものではないと主張する。新しいアーキテクチャによって最も強力なモデルの監視が難しくなる中で、開発者と規制当局は安全性のトレードオフに正面から向き合うべきだとしている。具体的な選択肢として、モデルが読み取れる推論の記録を残さずに連続して計算できる量(不透明な直列計算の深さ)を制限することや、透明性が低いシステムでも監視可能性が保たれることを開発者に証明させることを挙げている。

ハサビス氏の評価機関案

ハサビス氏の論文は、最も先進的なAIモデルを評価するために米国主導のフロンティアAI標準機関を設けることを提案する。当初は開発者がリリースの最大30日前までに任意でモデルを提出して審査を受ける仕組みとし、評価制度の有効性が確認された段階で、米国内でフロンティアモデルを配備するための要件にすることも想定している。

評価は当初、AI企業と協議しながら設計するが、最終的には独立した非公開の評価、いわゆる「held-out」テストを開発する。企業が既知の評価に合わせてモデルを調整できなくするためだ。論文は、状況の深刻さが要求すれば枠組みを段階的に強化できるとし、フロンティアAI開発者の間での協調的な開発減速も選択肢に含めている。

業界議論の変化と不明点

今回の発表は、業界の安全性議論が漠然とした懸念の表明から、情報開示や外部による検証、そして安全策が追いつかない場合の協調的な開発減速といった具体的な提案へ移りつつある流れの中で出てきた。同じ週には、業界のリーダーたちがAnthropicのCEO、Dario Amodei氏が唱えたフロンティアAI開発のペース調整の呼びかけの要素を支持している。

一方で、提案された評価機関の評価項目や合格基準、運営主体、費用負担は示されていない。米国以外の開発者にどこまで適用されるのかも明らかではない。Instituteが今後どのくらいの頻度で論文を公表するのか、外部の研究者がどう参加できるのかについても原文では触れられておらず、枠組みの具体化はこれからだとみられる。