OpenAI・Anthropic・Google、AI安全巡り数週間前から協議

何が明らかになったか

OpenAIのグローバル政策責任者クリス・レハネ氏は火曜日、記者団に対し、同社がAnthropicおよびGoogle DeepMindとAIの安全性をめぐって数週間前から協議していると述べた。この発言はBloombergが最初に報じたもので、レハネ氏はAIに伴う破滅的なリスクへの対応を検討する米国の議員らと協議するためワシントンに滞在しているとされる。

きっかけの一つは、AnthropicのCEOダリオ・アモデイ氏が土曜日に公表した論考とみられる。同氏は業界が足並みをそろえてフロンティアAIの開発ペースを落とし、破滅的なリスクを避けるべきだと訴えた。OpenAIのサム・アルトマン氏、Googleのデミス・ハサビス氏、イーロン・マスク氏ら業界のリーダーがこの呼びかけを支持し、アルトマン氏はOpenAIもAnthropicと同様に第三者評価者を社内に受け入れて安全性を監視すると述べたと伝えられている。

業界主導の基準づくり

今回の発言は、3社がすでに協力を進めていることを裏づけるものだとTechCrunchは位置づけている。アルトマン氏は先週後半のFortuneのインタビューで、他のAIリーダーと非公開で議論していたことを示唆した。今週に入りThe Informationは、3社がAI業界の基準団体の設立に向けて共同で動いていると報じた。

この基準団体構想について、アルトマン氏は社員に対し、米国政府の支援なしで実現させる必要があると説明したとされる。ハサビス氏は7月、世界で最も進んだモデルを審査し、危険が進展した場合には業界全体の減速を調整する権限を持つ新しい基準団体を米国に設立するよう求めていた。

独占禁止法との緊張

企業間の協調には法的な論点が伴う。アルトマン氏を含む一部の関係者は、こうした協議が競争を抑制するものと判断されれば、独占禁止法違反と見なされる恐れがあると指摘している。アモデイ氏の論考は、安全性のための協調を認める限定的な政府の適用除外を提案した。

ただしレハネ氏は、3社にそうした適用除外は必要ないとの認識を示したと報じられている。業界の自主的な取り組みとして進めるのか、法制度上の裏付けを求めるのかは、今後の焦点になりそうだ。

米政権との温度差

米政権の姿勢は業界と異なる。トランプ大統領は安全性への懸念を「でっち上げ（hoax）」と一蹴し、規制強化に否定的な立場を示してきた。減速は中国を利するとの主張で、大統領のAI顧問を務めるデビッド・サックス氏も、AIの存在論的リスクへの恐れは誇張されているとの見方を示している。

同じ火曜日の会合でレハネ氏は、最先端のラボに「独立した検証機関」の受け入れを義務づけるFRONTIER Actの条項をOpenAIが支持すると述べた。TechCrunchはAnthropic、Google、OpenAIにコメントを求めている。