AI एजेंट डेमो से प्रोडक्शन में जा रहे हैं, और उन्हें एक मॉडल से अधिक की आवश्यकता है। उन्हें रीयल-टाइम डेटा, तेज़ उत्तर, और वे क्या पढ़, लिख और कार्य कर सकते हैं, इस पर सख्त सीमाएं चाहिए। 9 दिसंबर को Agentic Data Summit में, Guardrails, Not Guesswork सत्र दिखाता है कि Agentic Data Plane के साथ एजेंट एक्सेस को कैसे लॉक डाउन किया जाए। आप यह भी देखेंगे कि स्ट्रीमिंग, SQL और एजेंट एक प्लेटफॉर्म पर कैसे चलते हैं, और Agentic Data Plane के अगले कदम पर एक नज़र डालेंगे। यह मुफ़्त, वर्चुअल है, और AI एजेंटों को प्रोडक्शन में ले जाने वाले इंजीनियरों के लिए बनाया गया है।
हम अपने प्रॉम्प्ट के माध्यम से LLM को विस्तृत जानकारी प्रदान कर सकते हैं, लेकिन यह फिर भी इसका सही उपयोग करने में विफल हो सकता है। जब आवश्यक जानकारी एक लंबे प्रॉम्प्ट के बीच में कहीं बैठती है, तो इस प्रकार की विफलता और भी अधिक संभावित हो जाती है। हम इसे 'बीच में खो गया' प्रभाव या LLM ब्लाइंडस्पॉट कहते हैं। उदाहरण के लिए, कल्पना करें कि हम एक AI-आधारित कोडिंग असिस्टेंट को प्रोजेक्ट दस्तावेज़ों का एक लंबा संग्रह देते हैं। एक विशिष्ट पैराग्राफ बताता है कि ऑडिट लॉग को 37 दिनों तक रखा जाना चाहिए। हालांकि, कोडिंग असिस्टेंट एक क्लीनअप फ़ंक्शन लिखता है जो उन्हें 30 दिनों के बाद हटा देता है।
'Lost in the Middle' नाम का एक अध्ययन, 2023 में जारी किया गया और 2024 में प्रकाशित हुआ, ने इस व्यवहार का अध्ययन किया और पाया कि प्रदर्शन अक्सर शुरुआत और अंत के पास सबसे मजबूत था। हालांकि, बीच में प्रदर्शन कमजोर था। यह एक U-आकार की सटीकता वक्र उत्पन्न करता है। यदि जानकारी शुरुआत के पास है, तो LLM उच्च सटीकता दिखाते हैं, जो आमतौर पर प्राइमेसी बायस से जुड़ी होती है। यदि जानकारी अंत के पास है, तो LLM...
स्रोत: ByteByteGo · HeadlinesBriefing द्वारा सारांशित