生成AIエージェントは、推論の欠陥よりも、不良なコンテキスト管理によって頻繁に失敗します。他们会 Accumulating conversation histories, large prompts, and tool outputs while facing growing token costs. 現在のアプローチはこれをストレージと取得の問題として扱っていますが、私たちはこれは生命周期の課題だと主張します。私たちはエージェントコンテキスト管理（ACM）を導入し、何を記憶するか、関連性を抽出し、適切なストアを選択し、 fidelityを保ちながらコンテキストを圧縮するというdisciplinaryを展開します。ACMは5つのprimitiveに分解されます：architecting, ingesting, scoping, anticipating, 以及 compacting & consolidation. 経済的に、naive accumulationはcostをquadratically成长させ、crude summarizationはlinear costを達成しますがaccuracyを損失しますが、validated compactionはfidelityを保ちながらlinear costを提供します。私たちのreference implementation、Maximem Synapは、これらのprimitiveをmulti-tenant serviceとして実現し、Long Mem Evalで92%、Lo Co Moで93.2%を達成します。私たちは組織的scopeの階層を解決し、latency、token efficiency、context-rot resistanceを含む新しいbenchmark dimensionを提案します。
出典: Hacker News · 要約：HeadlinesBriefing