NVIDIAの新型CPU「Vera」、AIエージェント処理でx86の2倍性能を主張

エージェントがCPUを必要とする理由

NVIDIAはブログで、AIエージェントの処理のうちCPUが担う部分に焦点を当てている。エージェントは回答を生成するだけでなく、情報検索、データベースへの問い合わせ、コードの作成とテスト、さらには実際の操作の実行まで行う。こうした各ステップはCPUに依存しており、エージェントはタスクの途中でGPUによる推論とCPUによる実行の間を何度も行き来する。

企業がより多くのエージェントを稼働させるほど、AIファクトリーには「各ステップを素早く実行でき、多数のエージェントを同時に支えられるCPU」が求められる。しかもNVIDIAは、AIファクトリーは電力に制約があるという前提を強調する。つまり運営者にとっては、1ワットあたりの処理量をどれだけ最大化できるかが選択の軸になる。

100メガワット比較での主張

NVIDIAは100メガワットのデータセンターを想定した比較を行い、Veraの1 CPUが「最速のx86 CPU」と「最もエネルギー効率の高いx86 CPU」の両方を上回ったとしている。具体的には、最速のx86 CPUに対して業界最高水準のエージェント速度を保ちながら、ワットあたりのエージェント数を1.6倍にすると主張する。

最もエネルギー効率の高いx86 CPUとの比較では、エージェント速度が2倍で、かつエネルギー効率でも優位に立つとしている。NVIDIAの説明では、速さを重視したx86製品と密度を重視したx86製品を組み合わせて速度と処理能力のバランスを取る代わりに、1種類のCPUで幅広いエージェントワークロードを賄える点がVeraの位置づけになる。

ただしこれらは相対値であり、消費電力の絶対値やベンチマークの詳細な条件は示されていない。比較対象となる「最速」「最も省エネ」のx86 CPUが具体的にどの製品を指すのかも、原文では明記されていない。

パートナー各社の初期検証

ブログでは、Veraを先行して試した6社の結果が紹介されている。Perplexityはエージェント型のコーディング作業を従来のCPUより1.5倍高速に実行し、今後の本番システムにVeraを導入する予定だとしている。DeepInfraは本番のエージェントワークロードにおけるオーケストレーションで、テストした4つのアーキテクチャの中で最速となる、最良のx86プロセッサの最大2.2倍の速度を出したという。

データベース関連では、ClickHouseがVera専用のチューニングをしていない標準バイナリのまま176コアにわたってほぼ線形にスケールし、ClickBenchのハードウェアリーダーボードで首位になったと報告している。DuckLabsはIntel Xeon 6をベースラインとしたTPC-H SF1000で、中央値にして約1.5倍の性能を得たとしている。

エージェント実行基盤では、Daytonaが1,000個のエージェントサンドボックスを10.8秒で立ち上げ、2,000同時サンドボックス時に毎秒12.7ジョブを完了したと報告した。比較としてx86では88.4秒という数字が示されている。Modalは同等のx86ハードウェアと比べてコアあたり最大2倍のサンドボックススループットを達成し、負荷が高いほど差が広がるとしている。

現時点で分かっていないこと

今回の内容はNVIDIA自身のブログによるもので、第三者が追試した結果ではない。100メガワット比較の測定条件、ワークロードの種類、電力をどう測ったのかといった情報は原文に書かれていない。性能差の大きさをそのまま自社環境の見積もりに当てはめるのは適切ではないと考えられる。

価格、提供時期、消費電力の絶対値、対応するプラットフォームやソフトウェアについても原文には記載がない。既存のx86サーバーからの移行手順や、主要なOS・仮想化基盤・コンテナ基盤での対応状況も不明である。判断材料としては、ベンダー以外による再現テストと、実際に提供される構成・価格の情報が待たれる段階といえる。