HeadlinesBriefing favicon HeadlinesBriefing.com

বাইটড্যান্স 칭হুয়া DAPO RL প্রকাশ

Hacker News •
×

বাইটড্যান্স সিড এবং 칭হুয়া AIR DAPO প্রকাশ করেছে, যা বড় পরিমাণের LLM-এর জন্য একটি ওপেন-সোর্স রিইনফোর্সমেন্ট লার্নিং সিস্টেম। এই সিস্টেম Qwen2.5-32B ব্যবহার করে AIME 2024-এ ৫০+ পয়েন্ট অর্জন করেছে, কম ট্রেনিং স্টেপের সাথে পূর্বের পদ্ধতিগুলোর চেয়ে ভালো পারফর্ম করে। DAPO ডিকাপলড ক্লিপ এবং ডাইনামিক স্যাম্পলিং পলিসি অপ্টিমাইজেশন চালু করেছে। এতে অ্যালগরিদম, কোড, ডেটাসেট এবং মডেল ওজন রয়েছে। ট্রেনিং রেকর্ড দৈর্ঘ্য স্থিতিশীলতা, পুরস্কার স্কোর সামঞ্জস্য এবং এনট্রপি নিয়ন্ত্রণে উন্নতি দেখায়। এনভায়রনমেন্ট সেটআপ কন্ডা এবং পিপ ব্যবহার করে। ইনফারেন্স কোড এবং উদাহরণ সমস্যাগুলো প্রদান করা হয়েছে। প্রজেক্টটি verl ফ্রেমওয়ার্কের ওপর তৈরি। গবেষকদের GitHub ইস্যু মাধ্যমে আলোচনার জন্য আমন্ত্রণ জানানো হয়েছে।