NVIDIAがAI Infra SummitでVera Rubinの電力効率を公表

サミットで示された発表

NVIDIAは2026年9月15日、米カリフォームニア州サンタクララのコンベンションセンターで開催されたAI Infra Summitで、AIファクトリー（AI向けデータセンター）の電力効率に関する取り組みを公表しました。登壇したのは、ハイパースケール・高性能コンピューティング担当バイスプレジデントのIan Buck氏です。同氏は、AIインフラを評価する指標がピーク性能から「電力あたりのエージェントトークン数」へ移りつつあると説明しました。会場には今年8,000人を超える参加者が集まり、前年の3,500人から大きく増えています。

発表では複数のパートナー協業も示されました。AmazonのAnnapurna Labsは独自の高帯域メモリ技術「NVHBM」でNVIDIAと協業し、d-MatrixはNVLink Fusionプラットフォームを自社のRaptor XPUに統合します。Emerald AIはSilicon Valley Powerと組み、AIファクトリーの負荷を柔軟に調整する商用プログラムを実証しました。LambdaはDSX MaxLPSによる電力効率の改善結果を、PinterestはBlackwellプラットフォームとDynamo推論ソフトウェアを使った会話型AIの取り組みをそれぞれ公表しています。

背景にはエージェントAIの普及があります。エージェントAIは推論の連鎖やツール呼び出しを繰り返すため、従来のチャット応答とは異なる性能・効率・規模が求められます。NVIDIAはVera Rubinシステム、Dynamo、NeMo、NVLink、Spectrum-X Ethernet、ConnectX SuperNIC、BlueField DPUなどを含むフルスタックのAIファクトリープラットフォームで対応する方針を示しました。

指標は電力あたりトークンへ

NVIDIAは、AIインフラの評価軸がピーク性能から「検証済みの電力あたりエージェントトークン数」に移ると主張しています。DSX MaxLPSはファクトリー全体の電力最適化を通じて、電力あたり最大1.4倍のトークン数を実現できるとされます。NVLinkは大規模なアクセラレーテッドコンピューティングを単一の高性能システムとしてまとめる役割を担います。

LambdaはBlackwellサーバー上でDSX MaxLPSを検証した最初の結果を公表しました。DSX MaxLPSはGPUとラック全体の消費電力を継続的に監視し、必要な場所へ電力を動的に振り向け、静的な割り当てでは使われずに残る容量を回収します。学習と推論では電力プロファイルが異なるため、混在ワークロードを抱えるAIファクトリーでは電力配分の最適化が効いてくると説明されています。

Lambdaの結果では、通常16ノード分の電力予算で19ノードを稼働させ、クラスタ全体のトークン処理量を毎秒約400万から500万へ24%増やしつつ、電力あたり性能を23%改善しました。次世代のVera Rubin NVL72では、条件が合えば同一メガワット予算内で最大40%多くのGPU容量を確保できるとされています。

Vera RubinとGroq 3 LPX

AIファクトリーでは電力が制約条件であり、1ワットあたりどれだけトークンを生み出せるかが重要になります。NVIDIAは、ラックをまたいで電力を動的に移すDSX MaxLPSと、ラック内の短い電力スパイクを吸収するIntelligent Power Smoothingソフトウェアおよび拡張されたエネルギー緩衝を組み合わせています。これにより、サイト全体の電力枠を変えずに最大40%多くのGPUを収容し、新たな電力線なしで最大35%高いトークン処理量を得られるとしています。

エージェントAIでは、エージェントが推論ステップとツール呼び出しを連鎖させるため、遅延とコンテキスト長が急速に積み上がります。そこでNVIDIAは、決定論的な超低遅延推論を提供するGroq 3 LPXをVera Rubinに加え、DSX MaxLPSを補完する構成を打ち出しました。この組み合わせでは、2兆パラメータ超のモデルを長いコンテキストで動かす場合に、GB200 NVL72比で最大35倍の電力あたりトークン処理量が得られるとされます。

個別の数値も示されています。100KコンテキストのQwen 3.8 27Bワークロードでは、Groq 3 LPXが1ユーザーあたり毎秒2,529の出力トークンを記録しました。同じ応答時間の枠内でより多くの推論ステップとツール呼び出しを回せる余裕が生まれる、という説明です。

エージェント推論の評価

NVIDIAは、SemiAnalysisが提供するベンチマーク「AgentX」の結果も公表しました。AgentXは、記録された実環境のエージェントコーディングセッション上で推論を測定する点が特徴で、実際のコンテキスト成長やツール呼び出しの遅延、サブエージェントの生成をそのまま保持します。単一リクエストのベンチマークではないため、エージェント特有の負荷形状を捉えやすいとされます。エージェントの1セッションは、単純なチャットリクエストのおよそ15倍のトークン量に達することがあり、入出力長のばらつきも大きくなります。

DeepSeek V4 Proモデルでは、Vera Rubin NVL72がGB300 NVL72比で最大30倍高い電力あたりスループットを示し、100万トークンあたりのコストは最大45分の1になったとされます。AgentXは、幅広いモデルとシナリオでリクエスト単位の性能を測るMLPerf Inferenceを補完する位置づけです。性能の源泉として、NVL72のスケールアップ領域と第6世代NVLink、第5世代Tensor Core上のNVFP4精度、TensorRT LLMとDynamoを含む推論スタックを組み合わせた設計が挙げられています。Vera Rubinは量産段階にあり、エコシステム全体で拡大中で、ソフトウェア最適化により性能はさらに向上するとされています。

あわせて、Vera CPUに関するスタートアップ各社のベンチマークも紹介されました。PerplexityはエージェントAI向けのセキュアサンドボックス基盤でサンドボックス起動が1.9倍高速、DeepInfraはオーケストレーションのステップ遅延が2.2倍高速、Redpandaはレイテンシが5.5倍低くスループットが73%高い、Starburstはクエリ処理量が3倍、Kineticaは分析クエリ性能が2.7倍といった結果を報告しています。ClickHouseは分析データベース向けのClickBenchで同社が測定した中で最速のマシンだったとし、Prime Intellectは並列ワークロードを増やしても高帯域と低く安定したメモリ遅延が保たれたと述べています。

電力網連携と注意点

Emerald AIはNVIDIAと協力し、Silicon Valley Powerの柔軟負荷連系プログラムのもとで自動的な負荷低減を実証しました。システムはSilicon Valley Powerからの数百の需要シグナルに応答しつつ、AIワークロードの性能を保護したとされます。Emerald AIは、電力網の信号やハイブリッド電源に応じてAIファクトリーの消費電力を動的に調整する「Conductor」に、NVIDIAのDSX Flexを使う計画です。DSX Flexは負荷削減要求やデマンドレスポンス、価格シグナルを受け取り、あらかじめ定義したワークロードの優先順位に従って、重要なジョブを動かしたまま他を一時停止し、その後再開させます。

大規模化への対応として、NVIDIAはNVLink 6の多重レイヤー冗長化アーキテクチャも説明しました。物理層では独自の前方誤り訂正、物理層リトライ、ユニバーサル物理層リカバリにより、遅延への影響を抑えつつロスレスなファブリックを維持します。ネットワーク層ではクレジットベースのフロー制御、動的ルーティング、リンク再平衡により、障害を局所にとどめて連鎖的な停止を防ぎます。数十万GPU規模のAIファクトリーでは、信頼性そのものが性能要素になるという位置づけです。

一方で、今回示された数値の多くはNVIDIAおよび協力企業が公表したものであり、測定条件の詳細や第三者による再現結果は本記事では示されていません。DSX Flexによる電力網連携は、電力会社側の需要応答プログラムの存在が前提となります。導入可否や効果は、地域の電力制度やデータセンターの構成によって変わるとみられます。