Unsloth发布了Dynamic v3.0 GGUFs，在同等模型大小下，与其他提供商相比，top-1%准确率提高超过10%。新推出的Qwen3.8-27B Dynamic v3.0量化版本适配大多数推理引擎，包括llama.cpp和Unsloth Desktop。
该方法使用更高质量的imatrix校准数据集，专门针对代理编码、聊天和多语言性能进行优化。改进包括更好的层选择和额外的量化技术，以保持模型质量。团队不使用QAT或QAD，仅依赖训练后量化。
值得注意的是，仅在5天内就记录了510万次下载。小于UD-Q2_K_XL（8.37GB及以下）的较小量化版本移除了MTP模块，以节省约500MB的磁盘空间。UD-IQ1_S 1位量化版本为6.2GB，同时保持约72%的top-1%准确率。
团队还引入了Divergence-300 @32作为更有效的指标，使用300个留用样例进行32个标记的贪婪argmax解码。这通过KL散度来更好地衡量过拟合和与BF16基线的输出相似度。结果表明，UD-3量化版本在所有级别上实现了最多+10%的额外top-1%准确率，尤其在较小的量化尺寸上表现突出。
关键实体：公司：Unsloth
来源: Hacker News · 由HeadlinesBriefing整理摘要