HeadlinesBriefing favicon HeadlinesBriefing.com

بايت دانس وتسينغهوا تطلقان DAPO RL

Hacker News •
×

أطلقت بايت دانس سيد وتسينغهوا AIR نظام DAPO، وهو نظام تعلم معزز مفتوح المصدر للنماذج اللغوية الكبيرة واسعة النطاق. يحقق النظام أكثر من 50 نقطة في AIME 2024 باستخدام Qwen2.5-32B، متفوقًا على الطرق السابقة بعدد أقل من خطوات التدريب. يقدم DAPO مقطعًا منفصلًا (Decoupled Clip) وتحسين سياسة العينات الديناميكي (Dynamic Sampling Policy Optimization). يتضمن الخوارزمية، الكود، مجموعة البيانات، وأوزان النموذج. تُظهر سجلات التدريب تحسنًا في استقرار الطول، واتساق درجة المكافأة، والتحكم في الإنتروبيا. يستخدم إعداد البيئة conda و pip. تم توفير كود الاستدلال وأمثلة المسائل. يعتمد المشروع على إطار العمل verl. يُدعى الباحثون للمناقشة عبر قضايا GitHub.