Los agentes IA en producción fallan más frecuentemente debido a una mala gestión del contexto que a defectos de reasoning. Se ahogan en historiales de conversación acumulados, prompts grandes y salidas de herramientas mientras enfrentan costos de tokens en crecimiento. Los enfoques actuales tratan esto como un problema de almacenamiento y recuperación, pero argumentamos que es un desafío de ciclo de vida.
Introducimos la Gestión de Contexto Agente (ACM) como una disciplina que abarca decidir qué recordar, extraer relevancia, elegir almacenes apropiados y compactar contexto manteniendo la fidelidad. ACM se descompone en cinco primitivas: arquitectura, ingestión, delimitación, anticipación y compactación & consolidación. Económicamente, la acumulación naive crece los costos de forma cuadrática, la resumen crudo logra costos lineales con pérdida de precisión, mientras que la compactación validada entrega costos lineales con fidelidad preservada.
Nuestra implementación de referencia, Maximem Synap, realiza estas primitivas como un servicio multiinquilino, logrando el 92% en Long Mem Eval y 93.2% en Lo Co Mo. Abordamos las jerarquías de alcance organizacional y proponemos nuevas dimensiones de benchmark incluyendo latencia, eficiencia de tokens y resistencia al rotación de contexto.
Fuente: Hacker News · Resumido por HeadlinesBriefing