Databricks、AIコーディング費用を70%削減 - 効率性重視のモデル戦略

70%削減の発表

Databricksは、AIコーディングツールのコストを70%削減したと自社ブログで明らかにした。同社ではエージェント型コーディングが生産性指標を大幅に改善した一方で、コストが指数関数的に増加する問題に直面していたという。この課題はAIを大規模に導入する企業に共通するもので、削減策として複数のテクニックを紹介している。

この取り組みはDatabricks単独ではなく、Stripe、Coinbase、Uber、Rampなどデジタル企業との協力に基づく。同社はコスト管理のための中核コンポーネントとして、メタハーネス『Omnigent』と『Unity AI Gateway』をオープンソースとして公開している。

効率性フロンティアとは

記事では、モデルを選定する際に重視すべき概念として『効率性フロンティア』を挙げている。これは、同じ知能レベルで最も安価なモデルの集合を指す。日常的なコーディングには数学の証明や高度なセキュリティ分析は必要ないため、実際の開発に使うモデルは価格性能比で選ぶべきだと説明している。

実際、DatabricksはGLMモデルが高い競争力を持つと評価し、社内で利用を開始した。一方、StripeはOpus 4.7がOpus 4.6と比べて品質が向上せずコストが増えると判断し、導入しなかった。DatabricksもOpus 5.0とOpus 4.8の比較で同様のコスト悪化を確認している。

ルーティングとメタハーネス

コスト削減の大きな手段として、それぞれのリクエストやタスクに最適なモデルを自動選択するルーティングがある。DatabricksのUnity AI GatewayのSmart Routing機能は、平均タスクコストを30%以上削減しつつ、最も高価なモデルと同等の品質を維持できるとしている。

また、メタハーネスと呼ばれるクライアント層を導入し、タスクの複雑さに応じて複数のハーネスを使い分ける手法も登場している。Omnigentはその一例で、ユーザーは同じ操作性を保ちながら、内部で最適なモデルやツールにリクエストを振り分ける。さらに、ClaudeのAdvisor ToolやDevin Fusionのようなエスカレーションパターンも紹介されている。

支出管理とトークン削減

支出管理では、ハードな利用停止ではなく、ユーザーにリアルタイムの可視化を提供し、支出が増えるに連れて摩擦を段階的に高める手法が取られている。自己解除可能なスぺンドゲートや、承認が必要なゲート、低コストモデルへの自動切替などが有効だという。

さらに、トークン使用量そのものを減らす取り組みも重要だ。コンテキストの圧縮頻度を上げる、冗長な出力を抑える、タスクを小さく分割するといった方法で、無駄なコンテキストを削減できる。プロンプトキャッシュも大規模コンテキストでは性能に影響する。