أطلقت Unsloth Dynamic v3.0 GGUFs، والذي يقدم دقة top-1% أفضل بنسبة أكثر من 10% مقارنة بمزودي الخدمات الآخرين بنفس حجم النموذج. تعمل الكميات الجديدة Qwen3.8-27B Dynamic v3.0 مع معظم محركات الاستنتاج، بما في ذلك llama.cpp وUnsloth Desktop.
تستخدم المنهجية مجموعات بيانات معايرة imatrix ذات جودة أعلى، مُحسّنة لأداء البرمجة الوكيلية، والدردشة، واللغات متعددة. تشمل التحسينات اختيار طبقات أفضل وتقنيات إضافية للكمي، للحفاظ على جودة النموذج. لا يستخدم الفريق QAT أو QAD، بل يعتمم بشكل خالص على الكمي بعد التدريب.
من الملاحظ أنه تم تسجيل 5.1 مليون تحميل خلال 5 أيام فقط. تمت إزالة وحدة MTP من الكميات الأصغر تحت UD-Q2_K_XL (8.37 جيجابايت وما دون) لتوفير حوالي 500 ميجابايت من مساحة القرص. الكمي ذو البت الواحد UD-IQ1_S يبلغ 6.2 جيجابايت بينما يحتفظ بحوالي 72% من دقة top-1%.
قدم الفريق أيضًا Divergence-300 @32 كمقياس أكثر فاعلية باستخدام 300 أمثلة محجوزة لفك الترميز الشمرة argmax على مدار 32 رمزًا. يقيس هذا انحراف KL لتقييم الأشباع وتشابه الإخراج مع قواعد BF16 بشكل أفضل. تُظهر النتائج أن كميات UD-3 تحقق حتى 10% إضافية من دقة top-1% على جميع المستويات، خاصة في أحجام الكمي الأصغر.
كيانات رئيسية: الشركات: Unsloth
المصدر: Hacker News · لخّصه HeadlinesBriefing