غالبًا ما تتفوق مكونات الوكيل على تحويل مخرجات النموذج إلى فعل، لكنها تفشل في التأكد من أن الأفعال مسموح بها فعليًا. قد يختار الوكيل الداعم بشكل صحيح إلغاء اشتراك واستخراج معرف حساب، لكنه يلغي حسابًا خاطئًا بسبب نقص فحوصات الصلاحية. القدرة (قدرة LLM على اختيار أداة وإنتاج المعلمات) مختلفة عن الصلاحية (سياسة منفصلة مفروضة على حدة تسمح بفعل محدود لسلطة تم تحديدها). تعامل أنظمة الوثوقية مع القدرة كاقتراح يتطلب صلاحية قبل التنفيذ. يمكن أن تحول التحديات مثل حقن التعليمات البرمجية، والنية غير الواضحة، والسياق القديم، والمهامية الواسعة نداءات أداة صالحة إلى نتائج ضارة، كما تم الإشارة إليها في مخاطر أنظمة الوكلاء من OWASP. الحل ليس المزيد من التعليمات البرمجية، بل لوحة التحكم المحددة. تنظم الوكلاء المتقدمون في ثلاثة مستويات: التخطيط (استنتاج النموذج واختيار الأداة)، والتحكم (الحكم: المصادقة، وحل السياق، والصلاحية، وتقييم السياسات، والموافقة)، والتنفيذ/الملاحظة (استدعاء الفعل، والتحقق، والتدقيط). تُصدر لوحة التحكم الهوية الوكالة، وتحقق من الأفعال، وتقييم المخاطر، وقد تتطلب موافقة دقيقة، وتصدر صلاحية محدودة المجال، وتحتفظ بدليل القرار. يضمن هذا الفصل بين الوثوقية والمساءلة بعيدًا عن الصحة النحوية أو نجاح HTTP.
المصدر: Towards Data Science · لخّصه HeadlinesBriefing