- Groq 3 LPXが量産段階に。10万トークンの長文脈処理で毎秒3,400トークンを達成
- Rubin GPUがコンテキスト処理、LPXが遅延に敏感なデコードを高速化
- Nebiusが初採用。SpaceXAIやCoreWeaveもVera Rubin関連製品を導入
発表の概要
NVIDIAは米国時間2026年8月24日、ラックスケールシステム「Vera Rubin NVL72」向けの推論アクセラレータ「NVIDIA Groq 3 LPX」が量産段階に入ったと発表しました。Artificial Analysisのベンチマークでは、オープンソースのエージェント型モデル「Gemma 4 31B」を用いた10万トークンの長文脈処理で、毎秒3,400トークンの出力を達成しています。これは、最も近い代替プラットフォームと比べて4倍の速度です。
エージェント型AIは、従来のチャットAIと異なり、ツールの実行や他のAIシステムとの連携を伴いながらタスクを進めます。このため生成するトークン数が増え、扱うコンテキストも長くなる傾向があります。NVIDIAは今回の発表を、そうした新たな推論需要に応えるためのプラットフォーム拡張として位置づけています。
技術的な特徴
エージェント型AIが抱える性能課題の一つが「デコードレイテンシ」です。AIは応答をトークン単位で順次生成するため、1回の遅延が複雑な処理チェーン全体に影響します。Groq 3 LPXはこの問題に対応するため、Vera Rubin NVL72に低遅延の推論アーキテクチャを追加します。
具体的には、Rubin GPUが大規模なコンテキスト処理を担当し、LPXが遅延に敏感なデコード処理を加速する役割分担を採用しています。大規模展開時には256基のLP30アクセラレータをチップ間直接接続で束ね、1つのプロセッサのように動作する推論エンジンを構成します。NVIDIAはこうした一連の設計により、従来課題だった「速度とスループットのトレードオフ」を解消できるとしています。
クラウド各社の採用拡大
今回の発表では、複数の企業によるVera Rubinプラットフォームの採用も明らかになりました。AIクラウドのNebiusがGroq 3 LPXを最初に採用し、「Nebius Token Factory」でVera Rubin NVL72にLPXを組み合わせます。開発者はこの環境を通じて、応答性の高いエージェント型AIやコーディングシステムを構築できます。
SpaceXAIは、将来のAIアーキテクチャをVera Rubinを中心に構築する計画を発表しました。地球上のデータセンターから軌道上の衛星までを含む構成で、エージェントの調整やツール実行といったCPU負荷の高い処理にVera CPUを活用する方針です。CoreWeaveは、Vera Rubinラックを接続するネットワーク技術「Spectrum-X Multiplane」を本番環境に展開しています。
ネットワークと運用基盤の進化
AIファクトリーの大規模化に伴い、ネットワークも性能の重要な要素になっています。NVIDIAがHot Chipsで紹介したSpectrum-X Multiplaneは、各サーバーのネットワーク接続を複数の独立した経路(プレーン)に分割する方式です。第3のネットワーク階層を追加する従来手法に比べ、遅延やコストの増加を抑えながら最大512,000 GPUまで拡張できます。
8プレーン構成では、1つのプレーンが故障した場合でも全帯域の約90%を維持し、復旧はソフトウェア方式の負荷分散より11倍高速です。NVIDIAはこの技術によりAIファクトリーの生産性を1.6倍に高められるとしています。あわせて、インフラの運用を加速する「NVIDIA Scale-In」も発表され、セキュリティやストレージ、運用管理をハードウェアで高速化する方針が示されました。
現時点での論点
今回の発表は量産開始とベンチマーク結果が中心で、価格や供給量、消費電力といった運用に直結する情報は明らかにされていません。ベンチマークも特定のモデルと条件の下での結果であり、実際のサービスで同じ性能が再現されるかは検証が必要です。とくにエージェント型AIでは、多数のユーザーが同時に利用する環境での実測値が重要になると考えられます。
また、Groq 3 LPXはVera Rubin NVL72との一体設計で提供されるため、既存のNVIDIA GPU環境に単体で追加できるかどうかは現時点では不明です。Nebius経由での提供が始まれば、日本企業もクラウド経由でこの性能を試せる可能性がありますが、具体的な提供時期は公表されていません。NVIDIAは「さらに多くの最適化、モデル対応、性能向上が続く」と述べており、今後の動向が注目されます。
| 項目 | Rubin GPU | Groq 3 LPX |
|---|---|---|
| 主な役割 | 大規模コンテキスト処理 | 遅延重視のデコード処理 |
| 処理の特徴 | 長い文脈を一括処理 | トークンを逐次高速生成 |
| 大規模展開 | Vera Rubin NVL72の基盤 | 256基のLP30まで接続可能 |
Agentic AI systems are generating more tokens, processing dramatically larger context windows and increasingly collaborating with other AI systems to solve complex problems.
エージェント型AIシステムは、より多くのトークンを生成し、劇的に大きなコンテキストウィンドウを処理し、複雑な問題を解決するために他のAIシステムとますます連携するようになっています。
今後の見通し
Groq 3 LPXの量産開始により、エージェント型AI向けインフラの競争は今後さらに活発になるとみられます。次の判断材料は、Nebiusでの実際の提供開始時期と価格、および他クラウド事業者の追随です。また、GPUとLPUを組み合わせた構成が実運用でどの程度のコスト削減と応答性向上をもたらすか、第三者による評価結果が出れば、日本企業も導入を検討しやすくなります。加えて、NVIDIAが進めるネットワーク一体設計の効果が、大規模AIファクトリーでどの程度再現されるかも注目点です。
日本の開発者・IT企業にとっての意味
今回の発表は、日本のクラウド事業者やAIインフラ担当者にとって、エージェント型AI時代のインフラ選定を考える材料になります。エージェント型AIは1回のタスクで大量のトークンを生成するため、従来型モデルの運用と比べて推論コストと応答遅延が課題になりやすい。GPUと専用アクセラレータを組み合わせて解決するNVIDIAのアプローチは、その一つの解として参考になります。ただし、日本企業が実際に使うには、Nebiusのような海外クラウド経由での提供を待つか、自社データセンターにVera Rubin NVL72を導入する必要があります。価格や供給時期が未公表な中で、まずはベンチマーク上の性能が実環境でどの程度出るのかを注視するのが現実的な判断になります。
気になる点
- Groq 3 LPXはいつどこで使えるようになるのか
- NVIDIAは量産開始を発表しましたが、具体的な出荷時期は公表していません。現時点ではAIクラウドのNebiusが最初の採用企業で、「Nebius Token Factory」内でVera Rubin NVL72に組み合わせて開発者に提供される予定です。
- 既存のNVIDIA GPU環境に後から追加できるのか
- Groq 3 LPXはVera Rubin NVL72と一体設計されており、単体のアクセラレータとして既存環境へ追加できるかは公表されていません。Rubin GPUがコンテキスト処理、LPXがデコード処理を分担する構成が前提となります。
- 価格やランニングコストはどのくらいか
- 具体的な価格は公表されていません。NVIDIAはLPXによって速度とスループットのトレードオフを解消し、スケーラブルな経済性を実現できるとしていますが、数値的な根拠は今回の発表に含まれていません。
用語解説
- LPU
- 言語処理に特化した推論アクセラレータ。トークン生成の低遅延化を担う
- デコード
- 学習済みモデルがテキストをトークン単位で順に出力する推論処理
- トークン
- テキストを処理単位に分割したもの。1トークンはおよそ1〜数文字に相当する
- エージェント型AI
- 目標達成に向けてツールを使い、自律的にタスクを実行するAIシステム
- Extreme codesign
- ハードウェアとソフトウェアを同時に設計し、システム全体を最適化する手法
- コンテキストウィンドウ
- AIモデルが一度に参照できる入力テキストの最大長
出典
With Groq 3 LPX in Full Production, NVIDIA Extends Vera Rubin Inference for Agents
https://blogs.nvidia.com/blog/vera-rubin-lpx-spectrum-x-nvlink-fusion
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する