HeadlinesBriefing favicon HeadlinesBriefing.com

تجنب تصميم RAG المفرط: ابدأ ببساطة

Hacker News •
×

غالبًا ما يتصمم الفرق منشآت RAG بشكل مفرط عند الانتقال مباشرة إلى التضمينات والقواعد البيانية المتجهية، بينما يقتصر المستخدمون على العثور على وثائق محددة. قبل اختيار الهيكل، ضع في الاعتبار خمسة عوامل رئيسية: توفر البيانات، خصائص الكورPUS، أنماط الاستعلام، الحجم، وقدرات الفريق.

ابدأ بـ BM25 والبحث النصي الكامل (Elasticsearch، Postgres). لا يحتوي هذا النهج على تعقيد التعلم الآلي، ولا يكلف شيئًا لكل استعلام، ويعمل أسفل 10 مللي ثانية، وسهل التصحيح. يتعامل مع العديد من الحالات بفعالية دون استراتيجيات التقسيم أو عبء التقييم. القيد الرئيسي هو غياب المرادفات وفشله في الاستعلامات الدلالية.

مناسب للاستعلامات التي تحتوي على كلمات مفتاحية والمطابقة الدقيقة ومصطلحات خاصة. عندما يكتب المستخدمون استعلامات حوارية، استخدم LLM لإعادة صياغتها إلى بحث كلمات مفتاحية نظيفة. يكلف هذا حوالي 0.001 دولار لكل استعلام ويسمح بالتكرار السريع من خلال تعديل إرشادات النظام.

مع التضمينات، يتطلب النتائج السيئة إعادة تمثيل كامل الكورPUS واختبار الانتشار. مع إعادة كتابة الاستعلام، يمكن إصلاح المشاكل بتعديل إرشادات النظام واختبارها فورًا. ابدأ ببساطة وانتقل فقط عندما يكون لديك بيانات تثبت احتياجك لمزيد من التعقيد.