يُfalِّم الوكيلات في الإنتاج أكثر من أخطاء الاستدلال بسبب سيء إدارة السياق. Theyغوصون في سياقات المConversation المتراكمة، والprompts الكبيرة، و Tool outputs مع تكلفة tokens متزايدة. النهج الحالي ي treating هذه كمشكلة التخزين والاسترجاع، لكن نحن ن arguing أنها تحدي دورة حياة. نحن ن introduceACM كdisiplineغطاء قرار ما نذكره، استخراج relevance، choice من appropriate stores، وcompacting السياق مع الحفاظ على fidelity. ACM ي decomposition into خمس primitives: architecting، ingesting، scoping، anticipating، و compacting & consolidation. اقتصاديًا، naive accumulation ي تكلفة quadratically، crude summarization ي linear cost مع accuracy loss، بينما validated compaction ي linear cost مع preserved fidelity.
Our reference implementation، Maximem Synap، realizes هذه primitives ك multi-tenant service، achieving 92% على Long Mem Eval و 93.2% على Lo Co Mo. نحن address hierarchical organizational scope و propose new benchmark dimensions including latency، token efficiency، و context-rot resistance.
المصدر: Hacker News · لخّصه HeadlinesBriefing