OpenRouterがStripeに加わる、1日10兆トークンを扱うルーティング基盤

何が発表されたのか

Latent Spaceのポッドキャストに、OpenRouter共同創業者兼CEOのAlex Atallah氏と、投資家のAnjney Midha氏が出演しました。テーマはOpenRouterの成り立ちと、Stripeに加わることになった経緯です。OpenRouterは、単一のAPIから複数のAIモデルを呼び分けられるようにするサービスで、原文では「中立なルーティング層」と位置づけられています。公開時点で1000万人を超える開発者に利用され、1日10兆トークン以上を処理する規模になったと説明されています。

議論の中心は、同社がなぜ「1つのモデルがすべてを制する」という前提を取らなかったのかという点です。2022年末にはOpenAIやCohereなどごく少数の選択肢しかなく、2023年にLlamaが登場したことが大きな転機になったとMidha氏は振り返ります。さらに、Stanfordのチームが合成データでLlamaを調整して作ったAlpacaが600ドルで実現したことで、データをモデルに圧縮してサービスとして提供する新しいビジネスモデルへの期待が生まれたとされています。

技術と事業の新しさ

原文が繰り返し強調するのは、モデルを訓練する力と、それを開発者に届ける力は別物だという点です。モデルラボは数十億ドルを投じてチェックポイントを作っても、配布の段階でつまずくことがあると指摘されています。OpenRouterは、そうしたモデル開発者にとっての中立的な配布レイヤーとして機能してきたと説明されます。

事業面では、Mistralをめぐる価格競争が推論マーケットプレイスの価値を初めて実証したとされています。MidjourneyがDiscord経由で急成長した事例や、暗号資産インフラが生成AIの予行演習になったという見方も語られました。同社はファインチューニングやメモリなど隣接領域へ広げず、ルーティングに集中したことを戦略上の利点として挙げています。プロトタイプが作られながら投入されなかった製品があったことも明かされています。

技術面では「Mixture of Models（MOM）」と呼ぶ初期の実験や、モデル融合が話題に上ります。モデル融合は2024年にはうまくいかなかったものの、現在はより良い結果が出ていると説明されています。加えて、OpenRouterのランキングがAI利用の変化をリアルタイムに映す地図になったこと、OpenClawや自動ルーティング、エージェントが利用の形を変えつつあることが議論の対象になっています。

競合・類似サービスとの違い

OpenRouterはしばしば「ただのマーケットプレイス」「ただのラッパー」と評され、ベンチャーキャピタルからは軽く見られていたと原文は述べます。しかし現在はAIエコシステムの重要インフラになったと位置づけられています。類似する存在としてHugging Faceが挙げられていますが、当時のHugging Faceはクローズドソースモデルを扱っておらず、モデルをその場で使うことも、誰がどう使っているかのデータもなかった点が異なるとされています。

別の比較対象としてLM Arenaが挙げられ、両者のミッションは根本的に異なると説明されています。また、限られた製品領域に集中したことがOpenRouterの大きな戦略的優位になったとされます。Anthropicが早い段階でAIペアプログラミングやコーディングに焦点を当てたことも、同種の意思決定の例として話題に上りました。

未確定な点とリスク

Stripeによる買収の条件や、買収後に何が変わり何が変わらないのかは、原文の範囲では具体的に示されていません。ポッドキャストでは「OpenRouterがStripeに加わる中で何が変わり、何が変わらないか」が議題として挙げられていますが、契約条件や統合計画の詳細は明らかにされていません。

リスクとして重点的に語られるのが不正です。推論ゲートウェイが詐欺の標的になりつつあり、トークン詐欺がAI経済を象徴するセキュリティ問題になる可能性があると指摘されています。さらに、次の不正は人間だけでなく、価値の高まるトークンの流れを狙う自律エージェントから来るとされています。Stripeの不正検知インフラがOpenRouterにとって戦略的に重要だという説明につながっています。