HeadlinesBriefing favicon HeadlinesBriefing.com

ذكاء اصطناعي صادق: ما بعد RAG إلى أنظمة قائمة على الأدلة

Towards Data Science •
×

هناك خطأ فئوي في العديد من أنظمة LLM: استرجاع المستندات، ووضعها في السياق، وتسمية الإجابة بأنها "مؤرضة". الاسترجاع يوفر الوصول إلى مرشحين للأدلة، لكنه لا يثبت أن المقطع المسترجع يدعم ادعاءً. يمكن أن يكون المقطع قديمًا، أو غير مكتمل، أو مشابهًا موضوعيًا لكنه غير مستلزم، أو متعارضًا، أو غير موثوق، أو محقونًا بشكل خبيث. حددت ورقة RAG الأصلية المصدر كمشكلة مفتوحة.

الهدف بعد RAG يجب أن يكون نظامًا سرديًا قائمًا على الأدلة حيث تحصل كل proposition مادية على دعم قابل للفحص، وكل قرار تجاري قابل للتتبع، وعدم اليقين له تمثيل من الدرجة الأولى. تحسين نظام الأدلة يخلق قطعة أثرية يمكن للمطور فحصها. وحدة التحكم الجديدة هي الادعاء الذري، وليس المستندات. يسرد دفتر الادعاءات جميع الادعاءات الذرية مع الأدلة والضوابط: claim_id مستقر، نص الادعاء مع المدى الدقيق، مدى الأدلة الحرفية، المصدر الأساسي مع تجزئة المحتوى، سياق الاسترجاع، وقرار الدعم (مدعوم مباشرة، توليف مسموح، أدلة غير كافية، أدلة متعارضة، غير مدعوم).

بوابة النشر غير القابلة للتفاوض: الادعاء المادي دون دعم مقبول هو طلب للمراجعة، أو الامتناع، أو وضع علامة كاستدلال، أو التصعيد. هذا يفرض قرارًا منتجًا بين الطلاقة غير المدعومة وعدم اليقين المرئي.

الكيانات الرئيسية: الشركات: Towards Data Science