OpenAI独自推論チップ「Jalapeño」の性能公表、電力効率で最大1.9倍

自社設計チップの性能初公開

OpenAIは2026年8月25日、自社初の推論専用チップ「Jalapeño」のベンチマーク結果を初めて公開しました。同社はこれまでこのチップと周辺システムを実際のワークロードでテストを重ねており、その結果として電力あたりのAI処理量と応答速度の両方で既存の商用アクセラレータを上回ったとしています。

OpenAIによれば、Jalapeñoは1つのアーキテクチャで高スループットと低レイテンシを両立しているのが特徴です。従来のハードウェアでは、効率を優先すると応答が遅くなり、応答速度を優先すると効率が落ちるというトレードオフがしばしば発生します。このチップはその両方を高い水準で満たせるため、顧客に対してはより速いレスポンスや、より応答性の高いAIエージェントを提供できるようになるとみられます。

測定方法と比較対象

性能測定には、SemiAnalysisが提供する公開ベンチマーク「InferenceX」が使われました。このベンチマークは、AIリクエストの処理プロセス全体を測定します。比較対象は「主要な商用アクセラレータ」とされており、モデルはGPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tの3つです。いずれも公開されているモデルです。

評価指標は、ユーザー体験を一致させた上で、電力単位あたりにどれだけ有用なAI処理を完了できるかというものです。電力効率の比較では、各社が公表しているチップの定格電力で正規化しています。Jalapeñoの定格は700ワットですが、実測の持続電力はテストしたワークロードで550ワット以下にとどまったと報告されています。

モデル別の性能比較結果

記事に掲載されたデータでは、Jalapeñoはすべてのモデルで電力あたりのピーク処理量が比較システムを上回り、エンドツーエンドの応答時間も短縮しました。以下は、記事から引用した主要な数値です。なお、比較システムの具体的なチップ名は原文では明かされていません。

設計思想とAIによる開発支援

Jalapeñoの性能向上は、チップ、メモリ、ネットワーク、ソフトウェア、ラックスケールのシステムを一体で設計した結果だとOpenAIは説明します。言語モデルの推論は、プロンプトを処理する「プリフィル」と、トークンを1つずつ生成する「デコード」でボトルネックが異なります。同社は、データ移動と通信遅延を最小化し、KVキャッシュの配置を局所化することで、各フェーズに合わせて計算・メモリ・ネットワークを切り替えられるようにしたといいます。

チップの設計自体にもAIを活用しています。初期設計からテープアウトまで9か月で到達したほか、AIによる演算回路の最適化も行われました。また、プログラミング環境をシンプルで予測しやすい構造にすることで、AIが並列プログラミングを最適化しやすくしています。記事によれば、CodexとGPT-Astraの組み合わせにより、当初予定していなかった3つのオープンウェイトモデルを2か月で高性能化できたということです。選択されたアテンションやMoE（混合専門家）ブロックでは、AI生成の実装が人手による実装より1.5〜1.8倍高速だったと報告されています。