आपका एजेंट कुछ अजीब लौटाता है। क्या यह प्रॉम्प्ट था, एक टूल कॉल जो टाइम आउट हो गया, या एक प्रतिक्रिया जिसे आपका कोड पार्स नहीं कर सका? ट्रेस के बिना, आप अनुमान लगा रहे हैं।

एक ग्राहक कंपनी के नए AI-आधारित सहायता सहायक से पूछता है कि क्या 15 दिन पहले खरीदी गई सदस्यता रिफंड के लिए योग्य है। सहायक जवाब देता है कि कंपनी 30 दिन की रिफंड विंडो प्रदान करती है, रद्दीकरण प्रक्रिया का वर्णन करता है, और वादा करता है कि पैसा पांच कार्य दिवसों के भीतर आ जाएगा। वास्तव में, कंपनी केवल 14 दिन के भीतर रिफंड की अनुमति देती है। सहायक ने हवा से एक झूठी प्रतिबद्धता गढ़ ली है।

LLM के संदर्भ में मतिभ्रम उत्पन्न जानकारी है जो तथ्यात्मक रूप से गलत, गढ़ी गई, या उस सामग्री के साथ असंगत है जिसका उपयोग मॉडल को करना चाहिए। पूरी प्रतिक्रिया गलत नहीं हो सकती है, लेकिन एक छोटा गढ़ा हुआ विवरण वह हिस्सा हो सकता है जिस पर पाठक भरोसा करता है।

त्रुटियां तीन श्रेणियों में आती हैं: एक तथ्यात्मक मतिभ्रम वास्तविकता का खंडन करता है; एक निष्ठा मतिभ्रम उत्तर और उसके प्रदान किए गए साक्ष्य के बीच संबंध से संबंधित है; निर्माण में नीति अनुभाग या शोध पत्र जैसी किसी चीज़ का आविष्कार करना शामिल है। ये श्रेणियां ओवरलैप होती हैं।

मुख्य संस्थाएं: कंपनियां: ByteByteGo, Sentry | लोग: Serge