Vera Rubin NVL72、MLPerf v6.1でGB300比最大3.7倍

Vera Rubinのプレビュー提出

MLPerf Inference v6.1の結果が公開され、NVIDIAの次世代プラットフォーム「Vera Rubin NVL72」が初めてプレビュー提出を行った。NVIDIAのブログによると、Qwen3-VLベンチマークでは、オフライン・サーバー・対話の3シナリオでGB300 NVL72比 最大3.7倍のスループットを記録した。この測定にはvLLMとNVIDIA Dynamoを組み合わせて使っている。DeepSeek-R1ではTensorRT-LLMを使い、GB300 NVL72比 最大2.5倍のスループットだったとしている。

MLPerfは推論性能を共通条件で比較する業界ベンチマークで、各社が同じ条件で測定した結果を提出する。NVIDIAのパートナーであるNebiusもVera Rubin NVL72のプレビュー結果を提出し、良好な性能を示したとされる。ただし今回の提出は「プレビュー」と位置づけられており、量産構成での確定値とは性質が異なる点には注意が必要だ。

性能を支える技術

性能向上の背景として、NVIDIAはハードウェアとソフトウェアのフルスタックでの共同設計を挙げている。Vera RubinではTensor CoreとTransformer Engineが強化され、推論のprefill(入力処理)とdecode(トークン生成)の両段階を高速化する。さらにNVFP4という低精度フォーマットにより、モデルの重み・attention・KVキャッシュのメモリ使用量を削減し、出力品質を大きく落とさずにスループットを高めているという。

ソフトウェア面では、prefillとdecodeを別々の計算資源に分ける「disaggregated serving(分離サービング)」と、MoE(専門家混合)層を大規模に並列化するexpert parallelismを多用したとしている。DeepSeek-R1やQwen3-VLのようなMoE構成のモデルでは、この分割と並列化が効率に直結する。

ラック内の接続には第6世代NVLinkとNVLink Switchを使い、汎用イーサネットと比べてパケットレートが10倍、レイテンシが3分の1と説明されている。こうした接続基盤が、ラック規模での分離サービングを成立させている。

99%のスケーリング効率

GB300 NVL72では、DeepSeek-R1のオフラインシナリオで1ラック(72 GPU)から4ラック(288 GPU)へ拡張し、99%のスケーリング効率を達成したと報告されている。GPUを増やした分だけスループットがほぼ比例して伸びたという意味で、台数を増やしても費用対効果が落ちにくいことを示す指標だ。

動画生成のWAN 2.2ベンチマークでも、単一ノード比で9倍のスループット、7.5倍低いレイテンシを記録し、毎秒0.65本の720p動画を1本5.7秒で生成したとしている。

ソフトウェアの継続的な最適化も数値に表れている。v6.1の提出では、GB300 NVL72のQwen3-VL性能がv6.0比で最大1.6倍に向上した。KVキャッシュの低精度化、カーネル融合、カーネル自体の改善、分離サービングが寄与したと説明されている。

現時点での注意点

今回のVera Rubin NVL72の結果は「プレビュー提出」であり、量産構成での確定値ではない。加えて、GPT-OSS-120BとDLRMv3について示された追加の最適化結果は提出期限後のもので、MLCommonsによる検証を受けていないと明記されている。

エージェント型ワークロードの評価も過渡期にある。NVIDIAはSemiAnalysis AgentXでGB300 NVL72比30倍というプレビュー結果を示したが、これはMLPerfの正式ベンチマークではない。エージェント向けの標準指標としては、今後のMLPerf Endpointsベンチマークが導入される予定とされている。

エッジ側ではJetson AGX ThorとTensorRT Edge-LLMを使い、新設のEdge-AgenticベンチマークにQwen3.6-27Bで提出している。パートナーは19社が参加し、うち8社がマルチノードのBlackwell NVL72システムで提出した。