OpenAI、意思決定特化「Decisions API」を全顧客に開放

全顧客への開放を発表

OpenAIは、意思決定に特化したモデルをAPI経由で提供する「Decisions API」を、すべての顧客が利用できるようにしました。9月29日の開発者向けイベントで発表し、その後、全顧客向けの提供を開始しています。公開版では音声と視覚のモダリティを追加し、世界各地で低遅延になるよう推論リソースを地理的に配置したとしています。

この分野は、フロンティアラボの元研究者が創業したTypeSafeが「Jev」で切り開きました。与えられた選択肢から素早く選び、その判断に確信度を添えて返す「スーパークラシファイア」として、深層学習モデルの新たなカテゴリを作っています。開発者らは、こうした「意思決定モデル」や「システム1モデル」が多くのワークフローでLLMを置き換えられると気づきました。処理は速く、コストは大幅に低いという点が支持されています。

中身はLunaの再設定

OpenAIのAPI製品責任者ニクンジ・ハンダ氏によれば、チームはJevを見て「数百万ものユースケースがある」と感じ、急いで自社版の開発に取り掛かりました。ただし、意思決定に特化して調整したモデルを新規に作ったわけではありません。ChatGPT Lunaを再設定し、推論を高速化してコストを下げたといいます。

ハンダ氏は、最大の変化は速度だと説明します。処理時間は1〜3秒から100、120、180ミリ秒に短縮されました。同氏は、将来的には専用のトレーニングでさらに改善できるかもしれないが、今は「普通のLuna」が仕事をこなしていると述べています。

導入企業の例としてBox、Datadog、Ramp、Speakが挙がります。AI語学チューターを手がけるSpeakのCTOアンドリュー・シュー氏は、操作間の時間が1.4秒から0.13秒に短縮されたと話しています。OpenAI自身も音声アシスタント「Dots」の応答性改善にこの製品を使いました。

ベンチマークでの位置づけ

ただし、何が良い意思決定モデルかを決める普遍的な基準は、まだ明確ではありません。知能、コスト、キャリブレーション、速度のどこを最適化するかはワークロードによって異なるためです。TypeSafeのCEOディオゴ・アルメイダ氏はベンチマークを信用せず、自らの業務で試すよう促しています。

公開指標では、AIM System One IndexとArtificial Analysis Decision Indexが、Liquidが直前に公開したD1 UltraとBase LabのElephant-1を高く評価しています。最新のJevはそれぞれ7位と3位で、OpenAIのDecision Modelは8位と14位でした。一方、OpenRouter上で最も多く問い合わせられているのは、現時点ではTypeSafeの製品だといいます。

意思決定モデルにPacManをプレイさせる「JevMan」というベンチマークでは、最新のJevが首位です。作成したOpper AIの成長責任者フェリックス・ヴンダーリヒ氏は、数百ミリ秒ごとに判断を迫られる点が、現実の意思決定に近いテストになると説明しています。

マルチモーダルと未知の部分

OpenAIが優位に立てる可能性があるのはマルチモーダルです。ハンダ氏は画像分類について「Lunaは非常に強力で、より良いキャリブレーションを示している」と述べ、顧客が画像を出力としても使えるよう柔軟化を求めていると付け加えました。

同氏はさらなる高速化の先にある用途も見据えます。60ミリ秒程度まで短縮できれば、動画のフレームごとにAPIを呼ぶような使い方が現実になるという考えです。

一方、料金体系や日本を含む各リージョンでの具体的なレイテンシ、モデルの学習内容の詳細は原文では明らかにされていません。導入判断には、自社のワークロードでの精度とコストを測る検証が必要になります。