Moonshot AIの最上位オープンモデルKimi K3がTogether AIで提供開始

発表の概要

Together AIは7月29日、Moonshot AIとの戦略的パートナーシップを発表しました。この提携により、Together AIはMoonshot AIが今後リリースするすべてのオープンウェイトモデルのローンチプラットフォームとなります。第一弾として、最上位モデル「Kimi K3」が提供開始されます。

開発者はTogether AIの米国ホスティング基盤を通じて、データ保持なしでKimi K3にアクセスできます。また、モデルを自社データでポストトレーニングし、アプリケーション向けに品質を調整することも可能です。

Kimi K3の技術的特徴

Kimi K3は、これまでに公開された中で最大のオープンモデルです。2.8兆パラメータのスパースMoE（Mixture-of-Experts）モデルで、ネイティブな画像対応と100万トークンのコンテキストウィンドウを備えます。この規模と機能により、長期間にわたるコーディングやエージェントワークフロー、ゲーム開発、知識集約型タスクに向くとされています。

アーキテクチャの新要素として、Kimi Delta Attention（KDA）とAttention Residuals（AttnRes）を採用しています。KDAは長いコンテキストでのデコード処理を高速化し、AttnResはモデル深層での表現取得を改善して学習効率を高めます。さらに、per-head Muonや量子化ベースのエキスパート負荷分散といった最適化により、前世代Kimi K2と比べて約2.5倍のスケーリング効率を実現したとMoonshot AIは主張しています。

Together AIでの提供形態

Kimiモデルは、Together AIの推論製品群であるServerless、Provisioned Throughput、Dedicated Inferenceのすべてで利用可能です。Serverlessでは手軽に試せますが、本番用途にはSLA保証付きのProvisioned Throughputが用意されています。トークン単位の料金と99%の稼働率SLAを備え、GPU時間の計算を意識せずに済む点が特徴です。

さらに、より管理を強化したいチーム向けにDedicated Model Inferenceも提供されます。こちらは高速デプロイと安定したトークン経済性を実現し、研究開発の成果が随時製品に反映される仕組みです。Together AIは既にCursorやY Combinator、Decagonなどの本番トラフィックを処理しており、大規模なコーディングやエージェントワークロードの実績があります。

ポストトレーニングと開発者への利点

Together AIでは、Kimi K3をベースとしたポストトレーニングにも対応します。フルウェイトおよびLoRA強化学習、高度な教師ありファインチューニングが可能です。Python SDKと詳細なプリミティブを使ってトレーニングを構成し、専用キャパシティ上で複数のLoRA実験を並行実行できます。トレーニングと推論の間で別途ハンドオフが不要で、チェックポイントを直接評価・デプロイできます。

この提携により、Moonshot AIの将来のモデルも同じTogether AIのModelsライブラリに追加され、同一APIからアクセスできます。新しいSDKやアカウント、再配線は不要です。また、MITライセンスに含まれる帰属表示は、カスタムトレーニング時に削除する柔軟性もあります。オープンウェイト特性を活かし、サーバーレス、Provisioned Throughput、Dedicated Inferenceを自在に選択できます。