AI規制論争が再燃、アモデイ氏の開発減速案に業界と政権が分裂

アモデイ氏の3段階案

今週の初め、AI業界の主要人物は少なくとも暫定的には規制を支持する側に見えていたと記事は伝えている。週末にAnthropic CEOのDario Amodei氏が、AI開発を減速させるための3段階の計画を提案した。研究機関に第三者評価者を常駐させること、国内産業全体で調整すること、政府の支援も視野に入れた国際合意を結ぶことの3点である。

OpenAI CEOのSam Altman氏、Google DeepMind共同創業者のDemis Hassabis氏、SpaceX CEOのElon Musk氏も、3点のいずれかについて公に同意する姿勢を示したとされる。AnthropicとOpenAIは以前から、業界共通の枠組みづくりを進めていることをほのめかしていた。規制に前向きな姿勢は広報上の効果に加え、深刻さを増すハッキング事案への対応としても意味があると記事は指摘する。

業界内で割れる立場

一方で、AI業界の意見は割れている。Meta CEOのMark Zuckerberg氏は企業の自律性を制限することに反対の立場をすぐに示した。Wall Street Journalの報道によれば、Zuckerberg氏、Musk氏、Nvidia CEOのJensen Huang氏が、金融業界のFINRAに似た業界資金による独立規制機関の提案を潰したとされる。

ただし、OpenAIなど一部はこの構想を諦めていない。OpenAIのグローバルアフェアーズ責任者Chris Lehane氏はThe Vergeに対し、フロンティアAIに対する義務的な国家安全基準への超党派の支持が広がっていると述べ、議会がそれを枠組みに変えるべきだと話している。

匿名のAIベンチャー投資家は、電気、自動車、航空機でも同じような瞬間があり、業界が安全の意味を共有して基準を作ることで技術がむしろ普及したと語った。Anthropicはコメントを拒否したが、Amodei氏は自らの論考で、誇張や「doomerism」と非難されても規制を提唱してきたと書いている。Safe Superintelligence、SpaceX、Googleは回答せず、Thinking Machines Labはコメントを拒否した。

政権の揺れる立場

トランプ政権は、AIの安全危機という考えを「hoax(でっち上げ)」と呼んで攻撃している。トランプ大統領は先週、AIリスクへの懸念を「hoax」と呼んで注目を集め、Huang氏が会議の壇上にいる最中に電話をかけ、スピーカーフォン越しに「ロボットが支配することはない」と群衆に伝えたとされる。

大統領はソーシャルメディアにも、AIに必要な唯一の「ガードレール」は強く賢い大統領だと投稿したと記事は伝えている。NYUの非常勤教授で、国土安全保障省で新興技術政策の責任者を務めたNick Reese氏は、政権のAI規制に関する立場を「揺れ動き一貫性がない」と評している。

Reese氏は、トランプ政権が1期目に署名した大統領令13960との矛盾も指摘する。同令は連邦政府のAI利用について、プライバシーや公民権、市民的自由を守る原則を定めたもので、廃止されていないとされる。AI業界ブロガーのZvi Mowshowitz氏は、トランプ氏は必ずしも完全な反規制ではなく、フロンティアラボへの事前テストなどの制限を課した当事者だとしつつ、一貫した政策よりも「vibes(雰囲気)」に動かされていると指摘している。

問われる規制の目的

Reese氏は規制への反対が「古びた」考え方だと言う。金融や航空のように、失敗が許されない分野こそ規制し、品質保証やフォールバックの仕組みを組み込んできたのに、AIだけが例外扱いされているという指摘である。

同氏は、AIを「ロボットが来る」という終末的な筋書きで語ることが核心の問題を歪めていると述べる。問題は、ロボットの形をとっていないAIがすでに人を傷つけていることだという。技術が進み、業界の権力集中への抗議やボイコットが広がれば、規制を求める声はさらに強まり、トランプ氏の現在の立場にも影響しうるとしている。