エージェントメモリは「投与量」—モデルごとに最適解をIBMが検証

エージェントが経験から学ぶ仕組み

IBM Researchは、エージェントが自身の過去の実行履歴から教訓を抽出し、次回の推論時にその教訓をコンテキストへ追加する手法「ALTK-Evolve」を提案しています。この手法では、モデルの重みは一切更新せず、人間によるアノテーションも不要です。成功した手順だけでなく失敗した手順からもガイドラインを生成します。

検証には、Webアプリ上のマルチステップタスク585件(テスト通常168件、テスト難易度417件)を含むベンチマーク「AppWorld」を使用しています。評価指標は、各タスクを完全に達成できるかを見るTGCと、シナリオの全バリエーションをクリアできるかを厳しく判定するSGCの2つです。8モデル(30BのDenseモデルからフロンティアのプロプライエタリモデルまで)で比較しました。

モデル能力に応じて最適な「投与量」は変わる

実験の結果、メモリの効果はモデルの能力帯によって3パターンに分かれることが分かりました。余力のある強いモデルは、レアなエッジケースも含むすべてのガイドラインを渡す「全量注入」が効果的です。例として、DeepSeek-V3.2は全ガイドラインを渡した場合、TGCが9.5ポイント向上しました。

一方、比較的弱いモデルは、大量のガイドラインを渡すとかえって性能が落ちます。高信頼のコアとなる教訓に加え、タスクごとに関連するガイドラインだけを検索して渡す「厳選検索」が最適でした。gpt-oss-120bでは、この方式でTGCが16.1ポイント向上し、全量注入より効果が大きい一方、トークン増加は約5%に抑えられました。

すでに性能が飽和しているモデルでは、メモリを追加しても測定可能な向上は見られませんでした。この結果は、モデルがタスクの上限に近い、ガイドラインが残る失敗要因に対応していない、など複数の要因が考えられますが、原因の特定は今後の課題です。

コストと精度のトレードオフを解消

実運用では、全ガイドラインを毎ステップ注入すると入力トークンが膨らみます。しかし、厳選検索はトークン増加をほぼベースライン並みに抑えられます。gpt-oss-120bの例では、+5%のトークン増で+16.1ポイントの精度向上を達成し、精度とコストの両立が可能です。

さらに、SGCという厳しい指標では、TGC以上の改善が見られる場合があります。DeepSeek-V3.2ではSGCが+16.1ポイント、GPT-5.5とOpusでも+7.2ポイント、+7.1ポイント改善しました。ガイドラインがタスクの一部のバリエーションだけでなく、すべてのバリエーションを成功させるのに役立つことを示しています。

未解明の点と今後の研究方向

現在の検索はコサイン類似度に基づいていますが、必ずしも有効なガイドラインを選べるわけではありません。今後は、タスクの成功可否を学習するセレクタの導入が計画されています。また、あまりに小さなモデルでは自己蒸留の信号が弱いため、教師モデルから蒸留するアプローチも検討されています。

加えて、コンテキストウィンドウの大きさがメモリ効果に与える影響も未解明です。より大きなウィンドウを持つモデルは全量注入を吸収しやすく、小さいモデルは検索方式が向く可能性がありますが、実証実験はこれからです。AppWorld以外のベンチマークや実環境での評価も進行中です。