NVIDIA、AIファクトリーの電力管理で成果 同一電力予算でトークン処理24%増

何が発表されたのか

AI Infra Summitで、NVIDIAのhyperscale and high-performance computing担当バイスプレジデント、Ian Buck氏がインフラに関する基調講演を行い、AIファクトリーの効率を中心テーマに据えた。同日、クラウド事業者のLambdaが実運用環境での初の検証結果を公表し、電力予算を賢く管理することでトークンのスループットを24%増やせると示した。NVIDIAはこうした取り組みを「NVIDIA DSX」としてまとめ、電力管理と電力網への参加についての初期成果を説明している。

DSXは2026年5月のGTC Taipeiで発表された。ネットワーク、冷却、水効率、施設設計まで含む広いプラットフォームで、今回の説明では電力管理と電力網への参加に焦点が当てられている。背景には、電力がAIファクトリーの制約になるという前提がある。NVIDIA創業者兼CEOのJensen Huang氏は「1ギガワットのファクトリーが2ギガワットになることはない」と述べている。

NVIDIAは、電力あたりどれだけの仕事を生み出せるかを指標として位置づけている。施設設計からラック単位の電力変換まで、業界は各層で効率を高めてきた。DSXはその考え方をAIワークロード自体に広げるものだと説明されている。

技術的に何が新しいのか

DSX MaxLPSは、GPUとラック単位の電力消費を監視し、ワークロードの種類に応じてノード間で余剰電力を再配分する。学習と推論では電力の引き方が異なるため、両方を動かすAIファクトリーでは配分の最適化が効きやすい。静的なプロビジョニングでは遊んでしまう容量を回収する狙いだ。

Lambdaの検証は、5ラック・19ノードのクラスタで行われた。16ノードをフルパワーで動かすのと同じ電力予算で19ノードを稼働させ、クラスタ全体のトークンスループットを毎秒約400万から約500万へ増やした。電力あたり性能は23%改善したという。

電力網側では、Emerald AIのConductorが需要シグナルを受け取り、優先度の低いジョブを遅らせたり再スケジュールしたりする。優先度の高い推論は動かしたまま、電力を4メガワットから3メガワットへ落とした。運用者の操作は不要で、応答は1分未満だとされる。

既存との位置づけ

サンタクララの事例はDSX Flexの設置事例ではなく、その概念が商用規模で機能することを示す、より初期で重要な証拠だと位置づけられている。NVIDIAのEos AIファクトリーがSilicon Valley PowerのFlexible Load Interconnect Programに参加しており、これはAIファクトリーを調整可能な資源として扱う初の商用電力プログラムだと説明される。

DSX Flexの最初の専用商用導入は、バージニア州マナサスに置かれる。NVIDIAのAI Factory Research Centerにある96メガワットのVera Rubin AIファクトリーで、2大陸にわたる5回の実証を踏まえたものだという。DSX Flexが汎用化を目指す型を、Conductorが統合されながら具体化していく構図とみられる。

電力供給の次の層として、NVIDIAは800V DC電源アーキテクチャを参照設計に取り込んでいる。AIファクトリーの規模が大きくなると、従来の低電圧の電力経路は変換の複雑さと配電の制約を増す。800V DCは変換の複雑さを減らし、電力供給効率を高め、より高密度なアクセラレーテッドコンピューティングラックを支えることを狙う。

分かっていないこと・注意点

公表されている数値は、Lambdaによる初回の検証とNVIDIAの試算に基づく。40%というGPU容量の増加は「適切な導入環境において」という条件付きのNVIDIAの予測であり、すべての環境で同じ効果が得られるとは限らない点には注意が必要だ。

ラック単位の熱も無視できない。GB200 NVL72ラックを直接液体冷却で動かす場合、約120キロワットの熱が発生し、それが計算に使われる前にどこかへ逃がす必要がある。電力の最適化だけでなく、冷却を含めた設計が前提になる。

電力網のプログラムや料金制度は地域ごとに異なるため、こうした需要応答がそのまま日本で使えるかは、各地域の制度次第とみられる。日本での導入計画について、原文では言及されていない。