Benchmarking der Qwen3.8-27B-Quantisierungen zeigt, dass 4-Bit Q4_K_M (17 GB) auf Terminal-Bench 2.1 und GPQA Diamond die volle BF16-Leistung erreicht, in eine 24-GB-GPU wie RTX 4090 mit Platz für 64k Kontext-Tokens passt. 2-Bit UD-Q2_K_XL (10,7 GB) zeigt leichte Einbußen, während 1-Bit UD-IQ1_S (6,2 GB) auf GPQA Diamond auf Zufallsniveau einbricht. Das Anstrengungsniveau (Standard xhigh) beeinflusst die Scores erheblich; für beste Ergebnisse werden etwa 8k Reasoning-Tokens benötigt. IFBench zeigt keinen Wechsel bis hinunter zu 2 Bit.

Die Tests verwendeten Unsloth-Quantisierungen auf Modal-GPUs (Kosten von rund 3.000 US-Dollar) und replizierten die offiziellen Qwen-Ergebnisse. Die Komprimierung stürzt bei 1 Bit ab, wo längeres Reasoning die Leistung verschlechtert. Q4_K_M bleibt der beste Kompromiss für Consumer-Hardware, ohne auf zentralen Benchmarks eine spürbare Qualitätsverluste zu verursachen.