Salesforce、NvidiaのNemotronを基盤に初の推論モデルKoaを発表

Koaとは何か

SalesforceがDreamforceで発表したKoaは、同社にとって初の推論モデルです。基盤にはNvidiaのオープンウェイトモデルNemotronを使い、両社が共同で営業、マーケティング、カスタマーサポート関連のタスクに強いモデルへと事後学習しました。Agentforceプラットフォーム上で顧客がエージェントを構築する際、既存の複数モデルに代わる選択肢として提供されます。

Agentforceは、問い合わせ対応や予約の調整といった定型業務をエージェントに任せるための仕組みです。これまでエージェントが長い手順や多段階のタスクを推論する必要がある場合、プロンプトはAIゲートウェイを通じてClaudeやChatGPTのようなフロンティアモデルに送られていました。Koaはこの推論の部分を自社モデルで賄う位置づけだと読めます。

技術的な特徴

Koaの特徴は、汎用ではなく業務特化を狙って作られている点です。SalesforceとNvidiaは事後学習に際し、顧客の実データを一切使わず、顧客のパターンを模した合成データを作成しました。Salesforce AI担当EVPのJayesh Govindarajan氏によれば、怒っている顧客がコールセンターに電話する場面から、商談をクロージングしようとする営業担当者まで、カスタマーサービス環境をペルソナ付きでシミュレーションしたと説明しています。

もう一つの売りはトークン効率です。Nvidiaでエンタープライズ向け生成AIソフトウェアを担当するVPのKari Ann Briski氏は、Nemotronには推論をトークン効率よく行う独自アーキテクチャがあり、ソブリンAI、最初のトークンまでの時間、効率的な推論という三つがそろっていると述べています。同じ作業をClaudeやChatGPTに投げるよりトークン消費が少なく、コストを抑えられるとSalesforceは説明しています。

自前モデルに踏み切った理由

自前のフロンティア級モデルを訓練する構想は以前からあったものの、出発点となる事前学習済みベースモデルがなかったことが長年の障害だったとGovindarajan氏は語ります。Nemotronが登場するまで、米国の主権下にあり、最先端で、データの来歴が明確な事前学習済みモデルは存在しなかったというのが同氏の説明です。同氏は中国AlibabaのオープンウェイトモデルQwenに触れ、何を学習しているか分からないとも述べています。

記事はKoaを、企業向けAIのニーズがフロンティアラボの提供物と分岐しつつあることを示す例と位置づけています。クローズドなフロンティアモデルに対し、オープンウェイトで、特定の業務タスクに訓練され、顧客データを取り込まず、AI支出を抑え、Salesforce内に埋め込まれたデータ要件とセキュリティに従うモデルであることが、Salesforceの主張する差別化要素です。

既存提携との関係と不明点

SalesforceはAnthropicやOpenAIから離れるわけではありません。同社はAnthropicとの提携「ClaudeForce」を発表しており、企業がClaudeをAIインターフェースとして使いながら、データはSalesforceのシステム・オブ・レコード内に同社インフラで保護された状態で置けるようにします。Koaはあくまで選択肢の一つとして、ゲートウェイ経由で用途に応じて振り分けられる位置づけです。

一方、Koaの具体的な提供時期や価格、オープンウェイトとしてどこまで公開されるのか、対応言語や日本語での性能は原文では明らかにされていません。トークン消費がどれだけ減るのかを示す数値も示されておらず、効果の大きさは今後の情報待ちと言えます。