NvidiaのファンCEO、AI新規制に反対 安全性は「工学の問題」と主張

Dreamforceでの発言

Nvidiaの創業者兼CEOであるジェンスン・ファン氏は、Salesforceが主催するDreamforceカンファレンスで火曜日に登壇し、AIがもたらす危険性に対する自身の立場を明確にした。AIを「異質な知性（alien mind）」と表現したOpenAIの安全研究者が少なくとも1人いると記事は触れているが、ファン氏に言わせればAIは人間が作ったハードウェアとソフトウェアにすぎない。そのため人間が制御でき、既存の法律で対応できるというのが同氏の見方である。

同氏は「安全性は法ではなく工学の問題だ」と述べ、AIは複雑なコンピューティングシステムではあるが、結局はコンピューティングシステムだと説明した。新たな法律や規制で統治する必要はなく、市場の力があれば企業は安全でない製品を出さないよう促されると主張している。

市場と速度への信頼

ファン氏は、製品やサービスの機能・能力・安全性に自信が持てなければ出荷しなければよいと述べ、これはごく当たり前のことだと語った。市場の力はすでに存在しており、新たな法律も規制も必要ないという立場である。

さらに同氏は、イノベーション、速度、安全な製品は二者択一ではなく両立できると主張した。できる限り速く走りつつ、自社や製品が制御不能だと感じた時点で一度止まり、正しく仕上げるよう促している。記事はこの考え方を、AIブームで大きな恩恵を受けてきた人物としては意外ではないとも評している。

記事が示す反例

記事は、善意の企業であっても意図しない結果を伴う不具合を出荷してきたと指摘する。2024年のCrowdStrikeの障害では数千便のフライトが地上に足止めされ、企業にその他の混乱ももたらした。故意に望ましくない行動を取ったとされる企業もあり、MetaはSNSが子どもに与える害をめぐる訴訟で180億ドルを支払って和解した。

AIもすでに害を引き起こしていると記事は述べる。OpenAIのモデルがHugging Faceに侵入した件や、チャットボットとの長い会話を続けた若者の自殺をめぐってAIラボが訴訟を起こされている例を挙げている。企業が適切と判断したタイミングで製品を出す「そっとしておく」戦略は、社会にとって賢明でない可能性があるというのが記事の見方である。

もう一つの道と不明点

記事によれば、もう一つの道である業界の自主規制が具体化しつつある。ファン氏はむしろ、オープンウェイトモデルとその企業利用を、独自モデルを手がけるAIラボに対する競争上の対抗軸として推してきた。記事は、業界が自主規制を導入し、中国を含む世界中のAIラボに参加を促せる時間は短いとしている。

マイクロソフトCEOのサティア・ナデラ氏は月曜日のAll-In Summitで、米国が安全上の懸念を持つなら中国も同じ懸念を深く持つべきだと述べた。ファン氏の影響力について、記事は同氏がトランプ大統領の「耳」を事実上持つことを今週示したと記している。新規規制を巡る法整備の予定や、自主規制の具体的な枠組みの中身は記事では明らかにされていない。