उत्पादन AI एजेंट अक्सर तर्क की कमियों के बजाय खराब कांटेक्ट मैनेजमेंट की वजह से असफल हो जाते हैं। वे बढ़ते हुए टोकन लागत का सामना करते हुए जमा होने वाली वार्तालाप इतिहास, बड़े प्रॉप्ट और टूल आउटपुट में डूब जाते हैं। वर्तमान दृष्टिकोण इसे स्टोरेज और रिट्रीवल समस्या मानता है, लेकिन हम तर्क करते हैं कि यह एक जीवनचक्र चुनौती है। हम एजेंटिक कांटेक्ट मैनेजमेंट (ACM) को पेश करते हैं जो कि यह तय करने, संबंध निकालने, उपयुक्त स्टोरेज चुनने और विश्वास बनाए रखते हुए कांटेक्ट संकुलन की एक अनुशासन है। ACM पाँच प्राथमिकों में विभाजित होता है: आर्किटेक्चरिंग, इंजेस्टिंग, स्कोपिंग, एंटीसिपेटिंग और कंपैक्टिंग & कंसोलिडेशन। आर्थिक दृष्टि से, नाइव एकुमुलेशन लागत चतुर्भुज रूप से बढ़ता है, क्रूड सारांश रैखिक लागत प्राप्त करता है लेकिन सटीकता को कम करता है, जबकि वैध संक्षेपण विश्वास बनाए रखते हुए रैखिक लागत प्रदान करता है। हमारी संदर्भ कार्यान्विति, मैक्सिमेम सिनैप, ये प्राथमिकों को मल्टी-टेनेंट सर्विस के रूप में कार्यान्वित करती है, जो लॉन्ग मेम इवैल पर 92% और लो को मो पर 93.2% प्राप्त करती है। हम संगठनात्मक स्तर पदानुक्रम को संबोधित करते हैं और लैटेंसी, टोकन दक्षता और कांटेक्ट रोटेशन प्रतिरोध सहित नए बेंचमार्क आयाम प्रस्तावित करते हैं।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित