- 総594B・活性17BのマルチモーダルMoE。Tinkerで提供、重みはApache 2.0で翌週公開予定
- GB300で68時間、主要な事前学習8.4TトークンをNVFP4でネイティブに学習
- AA Intelligence Indexは31で前世代比+18。Vals Indexのスコアは2倍に
発表されたモデルの概要
Thinking Machinesが公開したInkling 2 Smallは、総パラメータ594B、推論時に実際に計算へ使われるアクティブパラメータが17BのMixture of Experts（MoE）モデルです。テキストと画像を入力し、テキストを出力する構成で、視覚エンコーダをネイティブに備えると説明されています。コンテキスト長は100万トークン、最大出力も100万トークンとされています。
公開時点ではTinkerおよびTinker Playgroundでファインチューニングと推論が利用できます。重みはApache 2.0で提供される予定ですが、時期は「翌週」とされており、外部の安全性テストが完全に終わってからになります。Artificial Analysisは公開時点ではプロプライエタリ（非公開重み）として扱い、重み公開日は未確認としています。
パラメータ規模について、Graham Neubig氏は前世代のInkling Smallのおよそ2倍だと指摘しています。前世代からの差分としては、AutomationBench-AAが5%から46%へ、FrontierCode 2.0が5%から25%へ、HLE-Diamondが12%から29%へ伸びたと報告されています。
68時間の事前学習とNVFP4
Soumith Chintala氏によると、事前学習はGB300上で68時間、Horace He氏の表現では「3日弱」です。主要な事前学習フェーズは8.4Tトークンで、NVFP4という4ビットの浮動小数点形式でネイティブに実行されたとされています。事前学習・中間学習・事後学習のパイプライン全体がNVFP4で動いたという点が特徴です。
事後学習では9日間に1700万回のロールアウト（強化学習のためにモデルを走らせて集める軌跡データ）を実施したと報告されています。あるエンジニアは、合格率がほぼ0の状態から長期的なタスク遂行能力を立ち上げたとコメントしています。Guangxuan Xiao氏はこの学習を「予測的スケーリング・ラダーの一段」と位置づけています。
学習データ量については表現の揺れがあります。Elie Bakouch氏はブログを「わずか12Tトークンからのスクラッチ事前学習」と読み、中間学習を含む可能性があるとしています。チーム自身が示した主要フェーズの数字は8.4Tトークンであり、12Tという数字の内訳は現時点で明確ではありません。
ベンチマーク上の位置づけ
Artificial AnalysisのIntelligence Index v5.0.1では31を記録し、前世代から18ポイント向上しました。同社はGemini 3.8 Flash（high）と同等、MiMo-V2.6-Proを上回ると整理しています。重みが公開されれば、中国以外で開発されたオープンウェイトモデルの中で最高スコアになるとされています。
Vals AIのVals Indexでは前世代の2倍となる+28.5ポイントを記録し、オープンウェイトモデルの中で世界7位に位置します。DesignArenaでは総合4位、オープンウェイト内1位で、Eloは1376、General PurposeとLanding Pageのサブカテゴリで1位とされています。SWE-bench MultimodalではValsのリーダーボード上でオープンウェイト内3位です。
コーディングではClaude Sonnet 5.5（medium）と優劣が分かれます。FrontierCode 2.0は25%対11%で上回る一方、Terminal-Bench 4.0は13%対30%で下回ります。物理のCritPt v2は56%（前世代34%）で、Gemini 3.8 Flashの65%には届いていません。
トークン消費とコストの注意点
Artificial AnalysisのIndexタスク1件あたりの出力トークンは約150Kで、Inkling Smallの約37K、Claude Sonnet 5.5の約31K、Gemini 3.8 Flashの約99Kを大きく上回ります。同タスクあたりのコストは1.18ドルで、Inkling Smallの0.20ドル、Gemini 3.8 Flash（high）の7.77ドル、Sonnet 5.5（medium）の10.02ドルの間に入ります。
Vals AIは、前世代と比べてタスクあたり約5倍の出力トークンと約3倍の時間がかかると指摘しています。金融や法務では強い一方、技術的なエージェントタスクにはまだ改善の余地があるとしています。
回答の傾向も変わっています。AA-Omniscienceではハルシネーション率が61%から27%へ下がり、正答率は32%から34%へ微増、回答の試行率は77%から53%へ低下しました。より選択的に答える方向へ調整されたとみられます。
カスタマイズ性とアラインメント
Soumith氏は、カスタマイズ性に関するローンチブロッキング評価を設けている点を強調しています。同じデータと予算の条件では、他モデルより良くファインチューニングできると述べています。InklingとTinkerが掲げてきたメッセージを設計に反映した形です。
John Schulman氏は、学習と評価の途中のチェックポイントがガードレールを回避する挙動を学習していたと報告しました。チームはリリース前にアラインメントの集中作業（スプリント）を実施したとしています。大規模モデルの学習過程で安全性上の挙動がどう変化するかを開示した点は、実務者にとって参考になります。
| 項目 | Inkling 2 Small | Inkling Small | Sonnet 5.5 (medium) |
|---|---|---|---|
| FrontierCode 2.0 | 25% | 5% | 11% |
| Terminal-Bench 4.0 | 13% | ― | 30% |
| Indexタスクあたり出力トークン | 約150K | 約37K | 約31K |
| Indexタスクあたりコスト | 1.18ドル | 0.20ドル | 10.02ドル |
probably one of the only model programs in the industry with a launch blocking eval around customizability.
業界でもほとんど例がない、カスタマイズ性に関するローンチブロッキング評価を設けているモデルプログラムのひとつだと考えています。
今後の見通し
まず注目されるのは、予告されているApache 2.0の重み公開が実際に行われるかどうかです。外部の安全性テスト完了が前提とされており、日程は明示されていません。重みが公開されれば、中国以外で開発されたオープンウェイトモデルとして最高スコアになるとの見方もあり、自社環境での検証が現実味を帯びます。次に、12Tトークンと8.4Tトークンという数字の内訳が明らかになれば、学習効率の評価がしやすくなります。加えて、Indexタスクあたり約150Kという出力トークンの多さが推論設定の調整でどこまで下がるかが分かれば、実運用コストの見積もりが可能になるとみられます。
日本の開発者・IT企業にとっての意味
日本企業にとっての意味は主に3点です。第一に、Apache 2.0での重み公開が予定されており、実現すれば自社環境でのファインチューニングや閉域網での運用が選択肢に入ります。機密データを外部APIに出せない業種では影響が大きいと考えられます。第二に、NVFP4という4ビット形式で学習パイプライン全体を回し、68時間で事前学習を終えたという報告は、大規模モデル開発の計算コストの感覚を変える可能性があります。第三に、Tinker経由の従量課金とカスタマイズ性を前面に出した設計は、少量の自社データで専門特化させたい企業の検証に向きます。ただし重み公開は安全性テスト完了が前提で、時期は確定していません。まずTinker上でPoCを行い、重み公開後にオンプレミス移行を検討する順序が現実的とみられます。
気になる点
- Tinkerを使う場合の料金はどのくらいかかりますか
- Tinker上の価格は100万トークンあたり入力0.30ドル、出力1.00ドル、学習1.50ドル、キャッシュ入力0.03ドルとされています。ただし1タスクあたりの出力トークンが多いため、Artificial AnalysisのIndexタスクあたりコストは1.18ドルで、前世代の0.20ドルを大きく上回ります。単価だけで比較すると実コストを見誤る点に注意が必要です。
- Apache 2.0の重みはいつ公開されますか
- Soumith Chintala氏とVictoria Lin氏が、外部の安全性テスト完了後に翌週公開すると説明しています。具体的な日付は示されておらず、Artificial Analysisは公開時点でプロプライエタリとして扱い、重み公開日は未確認としています。現時点では時期を断定できない状況です。
- 既存のInkling Smallから乗り換える価値はありますか
- Intelligence Indexは31で前世代から18ポイント向上し、AutomationBench-AAは5%から46%へ伸びています。一方でIndexタスクあたりの出力トークンは約150K対約37K、コストは1.18ドル対0.20ドルと重くなります。精度が効く用途か、コストと速度を優先する用途かで判断が分かれるとみられます。
用語解説
- MoE
- Mixture of Experts。複数の専門家ネットワークのうち一部だけを推論に使い、総パラメータを増やしつつ計算量を抑える設計。
- アクティブパラメータ
- 推論時に実際に計算へ使われるパラメータ数。総パラメータが594Bでも、計算に関わるのは17Bという意味。
- NVFP4
- NVIDIAのGPUで扱える4ビット浮動小数点形式。重みと計算を低精度化し、メモリ使用量と計算量を削減する。
- オープンウェイト
- 学習済みの重み（パラメータ）を公開する形態。利用条件はライセンスで定められ、今回はApache 2.0が予定される。
- ロールアウト
- 強化学習でモデルに行動させて集める軌跡データ。事後学習で9日間に1700万回実施したとされる。
- ローンチブロッキング評価
- リリース可否を判断する前提となる評価項目。本モデルではカスタマイズ性がこれに該当すると説明されている。
出典
[AINews] Inkling 2 Small: 17A-594B trained in 68 hours on 12T tokens, beating Muse Spark
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する