2.8兆パラメータのオープンウェイトモデル「Kimi K3」、AWSでのデプロイ手順を解説

Kimi K3発表の概要

Moonshot AIは2026年7月27日、オープンウェイトの大規模言語モデル「Kimi K3」を公開した。2.8兆パラメータのMoEモデルで、オープンウェイトとしては初めて3兆パラメータクラスに到達したとされる。これにより、誰でも自社のインフラストラクチャにホスティングできる最先端モデルが登場した。

ウェイトはHugging Face上で公開され、MXFP4形式で配布されている。MXFP4は4ビットの量子化形式で、メモリ効率とモデル品質のバランスを取る。外部APIに依存せず利用できる点が特徴だ。

技術的な新しさ

Kimi K3は「Kimi Delta Attention」や「Gated Multi Head Latent Attention」、「Stable LatentMoE」といった独自構成を採用している。モデルは896のエキスパートを持ち、トークンごとに16個だけを活性化する。1回のフォワードパスで動作するパラメータは約1040億個に抑えられている。

これにより、2.8兆パラメータという巨大なモデルでも計算コストを抑制しながら、長期的なコーディング、エージェントワークフロー、複雑な推論といった高度なタスクを処理できる。ネイティブのツール呼び出しや構造化出力、複数ステップの推論を想定した常時オン型の思考モードもサポートする。推論時に使うパラメータを減らすことで、実用的な運用が可能になっているとみられる。

既存モデルとの比較・位置づけ

Moonshot AIの前作「Kimi K2」と比較すると、スケーリング効率は2.5倍に改善されている。MoEアーキテクチャの特性を生かし、アクティブなパラメータ数を抑えながらモデル全体を拡大することで、性能とコストのバランスを高めたとみられる。

オープンウェイトのモデルが3兆パラメータクラスに達したのは初めてであり、自社運用を前提としたモデルの性能水準が大きく引き上げられたと言える。外部のAPIにデータを送信せず、自社環境で最先端モデルを動かしたい企業にとっては選択肢が広がる。ただし、モデルが大きい分、推論のためのインフラコストも大きくなる点には注意が必要だ。

AWSでのデプロイと注意点

AWSでは、SageMaker HyperPodを使う方法と、Amazon EKSを使う方法の2通りが紹介されている。どちらの場合も、NVIDIA B300 Blackwell Ultra GPUを8基搭載するp6-b300インスタンス（ml.p6-b300.48xlarge）が必要で、推論エンジンにはvLLMを利用する。SageMaker HyperPodはマネージドサービスで運用の手間を減らし、EKSは自前のKubernetes環境を好むチームに向く。

注意点として、vLLMのKimi K3対応はまだメインストリームにはマージされておらず、専用コンテナ（vllm/vllm-openai:kimi-k3）を使用する必要がある。p6-b300もオンデマンドではなく予約したキャパシティでのみ利用できるため、Flexible Training PlansやCapacity Blocksによる事前の確保が必須だ。デプロイ後はOpenAI互換のAPIとして利用できる。