オープンモデル推論市場の実像、Interconnectsがトークン量で計測を試みる

何が公開されたのか

Nathan Lambert氏は、オープンモデルの採用状況と性能に関するデータをWeb上から集約する「Interconnects Dashboard」を運営している。ダッシュボード自体は無料で公開されており、実用性が高まってきているという。一方で同氏は、オープンモデルの採用に関する指標はどれも精度が低いと指摘する。プラットフォーム側の雑音の多い指標、スタートアップのマーケティング由来の数値、不完全な公開評価しか手元にないのが現状だ。

今回の調査ノートは有料購読者向けに書かれており、同氏が証拠不十分な段階で考えていることを共有する場と位置づけられている。ダッシュボードのデータは今後も無料で公開する方針で、AI政策や政策関連の研究に従事する人には割引または無料のアクセスを用意するとしている。

何を測ろうとしたのか

中心となる問いは「オープンモデル推論の市場はどのくらいの規模なのか、成長しているのか、それともOpenAIやAnthropicに比べれば誤差の範囲なのか」というものだ。この問いに答えるため、同氏はオープンモデル推論を手がけるスタートアップBaseten、Fireworks、Together AIの公開値を指標に採用している。加えて、OpenRouterがAPIで報告しているトークン量に占めるオープンモデル比率も使う。

Amazon BedrockやAzureのモデルガーデンといったハイパースケーラーも、この領域で大きな割合を占めているとみられる。しかしモデルカテゴリ別の利用内訳が公開されていないため、指標としては使えないという。

スタートアップを指標にする理由について、同氏は彼らの命運がオープンモデル推論というカテゴリの成否とより直接的に相関している点を挙げている。

数字が示す成長

公開されているトークン量を時間軸に沿って対数スケールで並べると、ほぼ指数関数的な成長が見えると同氏は説明する。その成長は、GLM 5.2によるオープンエージェント領域の変化を受けてさらに増加する前の段階だという位置づけになっている。

Fireworksは初の自社カンファレンスで、顧客がカスタマイズしたモデル向けに1日40兆トークン超を処理していると発表した。これは同社の推論全体の一部にあたる垂直領域で、今年の夏から2倍超に成長したとされる。Lambert氏は、次回の更新時に全社のトークン量が100兆トークンを大きく超えると見込んでいる。

比較の試みと限界

トークン量の数字を、可能な限りクローズドモデル企業やハイパースケーラーと突き合わせるのが同氏の狙いだ。Googleは決算資料でプラットフォーム全体とAPI利用のトークン量を公表しており、これをオープンモデル推論プラットフォームの数値に重ね合わせた図を示そうとしている。

ただし今回参照できる範囲では、その重ね合わせの結果は示されていない。金額ベースの市場規模、OpenAIやAnthropicとの比率、ハイパースケーラーのカテゴリ別内訳はいずれも不明のままだ。同氏自身も、現時点の推計は精度の低い指標を組み合わせた暫定的なものだと述べている。