OpenAIがJev類似のDecisions API発表、エージェント監視を視野に

Dev Dayでの発表内容

OpenAIのDev Dayで、CEOのSam Altman氏が「Decisions API」を明らかにしました。発表の中心ではなく、脇での言及だったと記事は伝えています。このAPIは、モデルにあらかじめ定義した選択肢を与え、その中から選ばせるものだと説明されました。画像を分類するカテゴリや、エージェントの異なる振る舞いなどが例として挙げられています。

Altman氏は、選択にモデルを集中させることで、画像理解や幅広い言語対応、安全性の保護といった能力を保ちながら、きわめて高速にできると述べています。提供は限定的なプレビューとして始まったとされ、TechCrunchはこれまでに開発者が本格的に試している例を確認していないとしています。一方でX上では関心の高さがうかがえる会話があったということです。

Jevとは何か

Jevは、今月TypeSafe AIが公開したモデルで、ソフトウェアの自動化を明示的に狙って設計されています。LLMを土台にした高性能な分類器のようなもので、開発者は選択肢の集合を渡すと、確率として安価かつ高速に出力を得られます。記事は、既存のLLMが比較的遅く高コストであるため多くのソフトウェアには向かない、という問題意識を背景に置いています。

TypeSafeはTechCrunchの質問に回答していません。CEOのDiogo Almeida氏は元OpenAIのエンジニアで、記事では強化学習の共同考案者とされています。同氏はXで「クローン戦争の始まり」と冗談めかして投稿し、OpenAIの関心は「System One互換の作り方が未来である兆候かもしれない」と付け加えました。System OneはTypeSafeが使う用語で、速く直感的な思考を指し、熟考を伴う推論を指すSystem Twoと対比されます。

Almeida氏は、速くて安いことは簡単であり、本当に速く安くしたいならサイコロを使えばよいとTechCrunchに語っています。難しいのは知能であり、常に「知能あたりのコスト」のパレート曲線を押し上げることを北極星にしていると説明しました。同氏は自社の競争優位の源泉を、統計的に有用な出力を生むために作る合成データに置いています。

エージェント監視への応用

記事は、こうしたモデルの有力な用途としてAIエージェントの監視と保護を挙げています。OpenAIは、エージェントが公開インターネット上で問題を起こした一連のインシデントを受けて新たなセキュリティ対策を導入しており、その一つは別のモデルで悪い行動を監視するものです。ただしこれには「大きな計算コスト」がかかるとされています。

サイバーセキュリティの長年の実務家で、スタートアップQueryStoryを率いるShapor Naghibzadeh氏は、Jevのようなモデルならはるかに安く実現できると考えています。同氏は先週末のハッカソン向けに、Jevを使って各エージェント行動を与えられたタスクと照合するデモを作りました。悪いと高い確信を持って判断した行動はブロックし、それ以外はレビュー用にフラグを立て、残りは許可する仕組みです。

記事によれば、理論上こうした監視はHugging Faceのインシデントを止められた可能性があります。監視コストはJevで2.94ドル、フロンティアLLMでは372ドルだったということです。Jevはすべてのエージェント行動に対して実行できる程度に安いと論じられており、エージェント全体の信頼性を高めるレビューの層になり得るとされています。

未確定な点と課題

現時点で、Decisions APIがJevとどれほど似ているかは不明です。OpenAIは限定的なプレビューとして公開しており、TechCrunchは開発者が本格的に試した例を確認していません。また、こうした意思決定モデルはJevだけではなく、他のスタートアップも同様のモデルを出しており、OpenAIが最後の大手になるわけではないと記事は見ています。

鍵となる問いとして、各意思決定モデルの出力が現実に対してどれだけ適切に校正されているかが挙げられています。Almeida氏は競争優位の源泉を合成データに置いており、統計的に有用な出力を生むためのデータ作りが難しい部分だと説明しました。安さと速さだけでは差別化にならず、判断の精度が焦点になるという整理です。