Moonshot AIのKimi K3がAmazon Bedrockで利用可能に

Kimi K3の提供開始

Amazon Web Services（AWS）は、Moonshot AIのオープンウェイトモデル「Kimi K3」をAmazon Bedrockで提供開始したと発表しました。コーディングやナレッジワーク向けの新しい選択肢として位置づけられています。Moonshot AIによれば、Kimi K3は同社で最も高性能なモデルであり、2.8兆パラメータに到達した初のオープンモデルだとされています。長時間実行されるコーディングや、大規模なリポジトリ・文書・画像にまたがる作業に向くと説明されています。

オープンウェイトモデルとは、モデルの重みが公開され、提供元以外の環境でも利用できるモデルを指します。AWSは、知能と効率の急速な改善により、企業がワークロードごとに能力・速度・コストの最適なバランスを選べるようになると説明しています。Kimi K3は、そうした流れを本番環境で使える信頼性とセキュリティとともに取り込むための取り組みの一環とみられます。

2.8兆パラメータと視覚機能

Kimi K3は、ネイティブのビジョン機能と100万トークンのコンテキストウィンドウを組み合わせていると説明されています。コンテキストウィンドウとは、モデルが一度に参照できる情報量のことです。100万トークンあれば、大量のコードやドキュメントをまとめて扱いやすくなります。Moonshot AIによれば、Kimi K2と比べてスケーリング効率が約2.5倍改善しているといいます。

ただし、2.8兆パラメータという規模や2.5倍という効率改善は、いずれもMoonshot AIの説明に基づく数値です。AWSのブログでは、ベンチマークの詳細や第三者による検証結果には触れられていません。実際のコーディング性能や推論コストは、公開される評価結果を待って判断する必要があると考えられます。

明示的プロンプトキャッシュ

Kimi K3は、Amazon Bedrock上のオープンウェイトモデルとして初めて、明示的なプロンプトキャッシュに対応します。プロンプトキャッシュは、毎回同じ長いコンテキストを送り直す場合に、その部分を保存して再利用する仕組みです。リポジトリの指示やツール定義、参照文書など、変化しない前置きが対象になります。キャッシュがヒットすると、応答の遅延と入力トークンのコストを抑えられます。

利用するには、少なくとも1,024トークン以降の再利用したいプレフィックスの終端に、prompt_cache_breakpointを付けて指定します。明示モードでは、キャッシュに書き込まれたトークンは高いレートで課金されますが、少なくとも30分間はキャッシュに保持されます。その後、同じプレフィックスに一致したリクエストでは、入力トークンが割引レートで課金され、input-tokens-per-minuteのクォータにもカウントされないと説明されています。

呼び出し方と推論プロファイル

Kimi K3は、bedrock-runtimeエンドポイント経由で呼び出します。OpenAI互換のResponses APIとChat Completions APIに加え、Amazon BedrockのInvoke APIとConverse APIも利用できます。既存のOpenAI SDKのコードを流用しやすい構成です。呼び出しには、bedrock:InvokeModel、bedrock:InvokeModelWithResponseStream、bedrock:CreateInferenceといったIAM権限が必要です。

推論はクロスリージョン推論プロファイルを通じて行います。リージョン制約のないワークロードには、global.moonshotai.kimi-k3を使うグローバルプロファイルが推奨されています。これは各リクエストを世界中のサポート対象の商用AWSリージョンに振り分けるもので、地理的プロファイルよりコストが約10%低いとされています。データ居住要件がある場合は、米国地理内で処理を維持するus.moonshotai.kimi-k3を使います。

データ保護と現時点の不明点

セキュリティ面では、Bedrock上のすべてのオープンウェイトモデルと同様の扱いだと説明されています。データはAWSのデータ境界内で処理され、モデル提供元とは共有されず、基盤モデルの学習にも使われません。推論リクエストではゼロデータ保持が常に有効で、ゼロオペレータアクセスによりAWSの運用担当者もプロンプトと応答にアクセスできないとされています。

一方、料金の具体的な金額は原文に記載がなく、Amazon Bedrockの料金ページを参照するよう案内されています。対応リージョンの全リストもBedrockのドキュメントに委ねられており、日本を含む各リージョンでいつ利用できるようになるかは現時点で公表されていません。既存の同種モデルと比べて実際にどれだけコストや性能が変わるかは、今後の検証結果が待たれます。