HeadlinesBriefing favicon HeadlinesBriefing.com

أخطاء خطوط أنابيب LLM: الص对度 دون معنى

Towards Data Science •
×

اكتشف Benjamin Nweke خطأ دقيق في خط أنابيب LLM بعد تفعيل المخرجات المنظمة. أشار عمل مطابقته إلى عدم تطابق في تحليل تأكيدات الدفع. السبب الجذري: ملأ النموذج حقل تاريخ مطلوب ب تاريخ تنفيذ عملية الاستخراج لأنه لم يكن قادرا على إرجاع لا شيء. وبشكل مماثل، نظم نظام استرجاع مفتوح المصدراً ذاكرة التخزين الدلالي باستخدام عتبات تشابه جيب التمام لتجنب التوليد المكرر. ومع ذلك، تفتقر ال ذاكرة إلى آلية لreturned الرفض عند الأسئلة التي، رغم التشابه الدلالي، تتطلب إجابات صحيحة معاكسة. ي كشف هذا عن عيب تصميم حرج مشاركه من قبل آليات الموثوقية: تضيق هذه الآليات درجات حرية المخرجات لتبسيط المعالجة اللاحقة، لكنها تزيل غير قصد القدرة على الرفض. انتهاك القيود هو عالي الصوت، لكن القيم المفروضة تمر صمتاً عبر كلبوابات التحقق، مما ينشئ أخطاء صمتية صعبة الكشف. في سيناريو ال ذاكرة، ي跳过 الاسترجاع والنمودج بالكامل، تاركاً لا شيء للمقارنة. يبرز هذا الاكتشاف أن آليات الموثوقية، رغم فعاليتها في تقليل الضجيج، قد تغطي مشكلات الأصل عند تكون الإجابة الصحيحة هي لا أحد من以上.