يهدف التعلم الآلي إلى التعميم، لا الحفظ، ويحدث الإفراط في التخصيص عندما يؤدي النموذج أداءً جيداً على بيانات التدريب ولكن أداءً ضعيفاً على أمثلة غير مرئية. تستخدم الدفاعات القياسية مجموعات تحقق واختبار محجوزة، لكن التحقق المتكرر والتعديل بناءً على بيانات التحقق قد يجعلها جزءاً من عملية التدريب، مما يؤدي إلى الإفراط في التخصيص. في البحث، تُعاد استخدام مجموعات بيانات المعايير لسنوات، مما يخلق حلقة تسلق تلال يجب أن تؤدي نظرياً إلى الإفراط في التخصيص، لكن التقدم يظل حقيقياً. يُفسر هذا اللغز دراسة جديدة عن وكلاء البحث القائمين على LLM، تُظهر أن الضغط — تفضيل النماذج الأبسط التي تناسب رموزاً أقل — يمنع الإفراط في التخصيص. من خلال إعادة تعيين ذاكرة الوكيل والتحكم في تدفق المعلومات، يُثبت الباحثون أن الوكلاء يحافظون على التعميم رغم التقييم المتكرر للمعايير، مقدّمين تفسيراً دقيقاً قائماً على شفرة أوكام لسبب عدم انهيار بحث ML الحقيقي في نماذج مفرطة التخصيص.

تكشف الورقة أن الوكلاء الذين يضغطون معرفتهم، أي ينتجون تفسيرات موجزة تناسب ميزانيات رموز محدودة، أقل عرضة للإفراط في التخصيص على معايير التحقق. يعمل هذا الضغط كمنظم ضمني، موائماً تعقيد النموذج مع توزيع البيانات الأساسي. وبالتالي، حتى بعد العديد من التحسينات التكرارية على نفس المعايير، يستمر الوكلاء في التعميم على مجموعات اختبار جديدة، معكسين النجاح الملاحظ في بحث ML الذي يقوده البشر.

تقترح النتائج الرئيسية أن وكلاء البحث المستقبليين وتصاميم النماذج يجب أن تتضمن قيود ضغط أقوى لتعزيز المتانة وضمان أن مكاسب الأداء تتحول إلى سيناريوهات العالم الحقيقي بدلاً من مجرد حفظ المعايير.