يعيد وكيلك شيئًا غريبًا. هل كان المطالبة، أو استدعاء أداة انتهت صلاحيته، أو استجابة لم يتمكن الكود الخاص بك من تحليلها؟ بدون تتبعات، أنت تخمن.

يسأل عميل مساعد الدعم الجديد القائم على AI لشركة ما إذا كان الاشتراك الذي تم شراؤه قبل 15 يومًا مؤهلاً لاسترداد الأموال. يرد المساعد بشرح أن الشركة تقدم نافذة استرداد لمدة 30 يومًا، ويصف عملية الإلغاء، ويعد بأن الأموال ستصل في غضون خمسة أيام عمل. في الواقع، تسمح الشركة فقط باسترداد الأموال في غضون 14 يومًا. لقد اختلق المساعد التزامًا مزيفًا من العدم.

الهلوسة في سياق نماذج اللغات الكبيرة هي معلومات مولدة غير صحيحة واقعيًا، أو مختلقة، أو غير متسقة مع المواد التي من المفترض أن يستخدمها النموذج. قد لا تكون الاستجابة بأكملها خاطئة، ولكن تفصيلًا صغيرًا مختلقًا قد يكون الجزء الذي يعتمد عليه القارئ.

تنقسم الأخطاء إلى ثلاث فئات: الهلوسة الواقعية تتعارض مع الواقع؛ هلوسة الإخلاص تتعلق بالعلاقة بين الإجابة والأدلة المقدمة؛ الاختلاق يتضمن اختراع شيء مثل قسم سياسة أو ورقة بحثية. تتداخل هذه الفئات.

الكيانات الرئيسية: الشركات: ByteByteGo, Sentry | الأشخاص: Serge

الأسئلة الشائعة: ما هي الهلوسة في LLM؟

الهلوسة هي معلومات مولدة غير صحيحة واقعيًا، أو مختلقة، أو غير متسقة مع المواد التي من المفترض أن يستخدمها النموذج. يمكن أن تكون تفصيلًا واحدًا مختلقًا داخل استجابة صحيحة بخلاف ذلك.