HeadlinesBriefing favicon HeadlinesBriefing.com

ShapeLearn-Lite getestet: Vollständige Shape Learn Modelle优于 Lite

Hacker News •
×

Qwen 3.8 27B wurde am 14. August 2026 veröffentlicht, und die Shape Learn-Lite GGUFs wurden vier Tage später veröffentlicht. Diese Lite-Versionen verwendeten kleinere Optimierungsbudgets und weniger Checks. Jetzt sind die vollständigen Shape Learn Modelle abgeschlossen und wurden alongside dem Lite-Set benchmarked.

Die vollständigen Shape Learn Modelle schneiden deutlich besser ab. GPU-5 erreicht 99,63 % des BF16-Benchmark-Wertes, während GPU-4 98,72 % bei 11,0 GB gegenüber 13,1 GB erreicht. Alle fünf Modelle liegen auf der Qualität-Geschwindigkeits-Grenze in sechs GPU-Vergleichen.

Spekulative Decodierung mit MTP oder DFlash2 erhöht die Durchsatz across allen Modellen. DFlash2 ist schneller, aber erfordert mehr Speicher und unterstützt keine Bild-Eingaben. MTP funktioniert mit Bild-Eingaben und ist besser für VRAM-beschränkte Szenarien.

Schlüsselentitäten: Unternehmen: llama.cpp, Unsloth, ISTA-DASLab