OpenAIのアルトマンCEO、RAM不足下でローカル推論よりデータセンター集約を主張

何が語られたのか

OpenAIのCEOであるサム・アルトマン氏が、ポッドキャスト番組「Cheeky Pint」に出演し、世界的なRAM不足について問われて見解を述べました。同氏は、世界の限られたDRAMを各人が自分のコンピューターに載せ、しかも5パーセントしか使わない状況を「quite terrible」と表現しています。

同氏はローカル推論に対する一般的な期待にも触れました。オープンソースモデルを手元のPCで動かせるようになるのでデータセンターの設備は不要になる、という見方が広がっていると指摘した上で、供給が制約された環境ではクラウド側で最大の利用率を狙うべきだと述べ、多くの人の直感はそれと逆だと語っています。なお同番組ではAIが数学に与える影響についても言及がありますが、本記事ではメモリ供給の話題に絞ります。

なぜクラウド集約なのか

背景にあるのは世界的なRAM不足です。記事によれば、メモリ大手のSamsungとSK Hynixはクラウドサービス事業者や、OpenAIのStargateのようなプロジェクトと長期契約を結び、今後数年間の世界のRAM生産のかなりの部分をすでに確保しているとされています。

アルトマン氏の論理は「希少な資源は利用率の高い場所に置くべきだ」という配分の話として整理できます。個人のPCに載ったDRAMは常時使われるわけではなく、同氏は「5パーセント」という表現を用いました。クラウドであれば複数の利用者や処理で共有できるため、同じ量のメモリからより多くの仕事を引き出せるとみられます。

ローカル推論との位置づけ

ローカル推論には、データを外部に出さずに済む、通信の遅延を避けられる、オフラインでも動くといった利点があるとされます。今回の発言は、こうした利点を否定するものではなく、「モデルが手元で動くこと」と「限られたメモリをどこに配分するか」は別の問題だという整理になっています。

記事は、メモリ各社がクラウド向けに巨額の投資を受けていることが、ノートPCやスマートフォンなど身近な機器の価格上昇につながっていると説明しています。アルトマン氏が想定した「PC」がゲーミングPCなのか、開発者向けのマシンなのかは、記事中でも明確にされていません。

現時点で分からないこと

この発言はポッドキャストでの口頭説明であり、OpenAIの具体的な調達計画や数量、契約条件が示されたわけではありません。ローカル推論向けのモデル提供方針が変わるかどうかも、この発言だけでは判断できません。

また、データセンターへの集約が世界全体のメモリ不足をどれだけ緩和するのかを示す数値は示されていません。需給がいつ改善するかについても言及はなく、記事全体としても今後の見通しを断定する材料は限られています。