エージェントAIの普及でCPU需要が高まり、AWSは逼迫に直面

AWSがCPU節約を指示

今年初め、Amazon Web Services（AWS）はエンジニアに対してCPUサイクルの節約を徹底するよう指示したと報じられている。AIワークロードがクラウドインフラを圧迫し、CPUサーバー容量の待ち時間が急増したためだ。これまでAI需要はGPUに集中し、CPUはあまり注目されてこなかった。

CPUは並列処理の規模がGPUに及ばず、大規模言語モデル（LLM）の推論には不向きとされてきた。しかし、AIモデルが自律的にツールを使い、サブエージェントを呼び出すエージェントAIの台頭で状況が変わりつつある。

なぜCPUが急に必要になったか

米調査会社Moor Insights & Strategyのマット・キンボール氏は、2026年に入ってCPU需要が急増した主因はエージェントAIだと述べる。1つのエージェントが100のサブエージェントを生み、それがさらにAPIを呼び出すことで、エンタープライズ規模では数百万のエージェントに膨れ上がるという。

実際、エージェントAIの処理にはCPUが不可欠だ。Intelの研究員ソビク・クンドゥ氏は、CPUが出力の解析、ツールの選択、API呼び出し、コード実行、結果収集を担うと説明する。AMDも、エージェントAIパイプラインの8段階中7段階がCPU上で実行されると報告している。

研究が示すボトルネック

ジョージア工科大学との共同研究で、クンドゥ氏らはGPUでLLM推論を実行中はCPUがアイドル状態になり、逆にCPUでツール呼び出しを処理中はGPUが待機することを発見した。スケジューリングを最適化すれば、エージェントワークロードのエンドツーエンド待ち時間を最大1.8倍短縮できるという。

さらに、同大学のユイジュン・チョン氏らの研究は、トークナイゼーションがボトルネックになることを示す。エージェントがツール結果を取り込む際、既存のシーケンス全体を再トークン化する必要があり、処理が増大する。CPUコアを増やすと、長いシーケンスで初回トークンまでの待ち時間が約1.5〜7倍改善することが確認された。

CPU市場への影響

CPU需要の高まりは半導体各社の戦略にも表れている。IntelはサーバーCPUを少なくとも今年末まで完売しており、AMDはサーバーCPUの需要予測を2倍に引き上げた。ArmとQualcommはエージェントAI向けの新CPUを発表し、Nvidiaも自社製Arm CPU「Vera」を優先している。

このため、GPUやメモリと同様にCPUの供給不足と価格上昇が起きる可能性がある。Intelはクライアント向けCPUの生産を減らしてサーバー向けに振り向けており、市場全体への影響が懸念される。