LLMエージェントのメモリ操作をゼロトークン化する「Zero-Mem」

発表の概要

LLMエージェントは長期的な対話や複数ステップのタスクを遂行するために、過去のやり取りを記憶する必要があります。多くの既存システムでは、その記憶を読み書きする際にもLLMの呼び出しを行っており、トークン消費や処理時間の増加を招いていました。この問題に対して、arXivに公開された論文「Zero-Mem」は、メモリ操作そのものをLLM呼び出しなしで行う手法を提案しています。論文は2026年8月5日付で公開され、現在は査読前のプレプリント段階です。

論文のタイトルは「Zero-Mem: Zero-Token Memory Operations for LLM Agents」で、長文メモリや長文脈の質問応答ベンチマークで評価が行われています。著者らは、構造化されたメモリへのアクセスが本当にLLMによる生成を必要とするのか、という問いを立てています。

ゼロトークン化の仕組み

Zero-Memでは、会話の元のやり取りをそのまま「原本」として保持します。その上で、エンティティ（人や組織名など）と文脈の関係を表すentity-context graphと、会話の時間的な順序やセッション状態を保持するtemporal hierarchyという2つのビューを用意します。クエリが来ると、この2つのビューを重み付けしてそれぞれ検索し、構造に沿って関連する情報を復元します。

さらに、矛盾する証拠は決定論的なキャリブレーションによって除外し、最終的な回答は検索結果に基づいて生成します。この結果、LLMが呼び出されるのは最終的な質問応答のみとなり、メモリ操作のためのLLM呼び出しとトークン消費が完全に不要になります。エンコーダーの計算は別途計上されている点も特徴です。

評価と従来手法との比較

論文では、長いメモリを必要とするQAタスクと長い文脈のQAタスクの両方で評価を実施しました。最終的なQAリーダーとコンテキスト予算（利用できる文脈の長さ）を同じ条件に揃えた場合、最も高速な比較ベースラインと比べて、メモリ操作にかかる時間コストを相対的に57.6%削減できたと報告されています。性能面では、既存手法と同等の結果が得られたとされています。

また、複数の要素の寄与を検証するアブレーション研究が行われ、2つのビューと、クエリに応じてそれらの重みを調整する仕組みが有効に機能していることが示されました。つまり、単に履歴を保存するだけでなく、構造化して検索に活かすことが重要であることを示唆しています。

現時点での注意点

現時点では、論文のアブストラクトと掲載情報だけが確認できており、コードや実装の詳細は査読後に公開される予定です。したがって、実際のシステムに組み込む際の具体的な手法やハイパーパラメータなどは未知数です。また、ベンチマークでの削減率は特定の条件下での数値であり、実環境のアプリケーションで同じ効果が得られるとは限りません。

この手法は、メモリ操作をLLMから切り離すことで、コスト削減だけでなく、メモリ管理の決定論的な制御やデバッグがしやすくなる可能性があります。一方で、生の会話履歴をすべて保持するため、ストレージやプライバシーの観点からは従来の要約型メモリに比べて検討すべき点も多いとみられます。