Qwen 3.8 27B salah satu rilis open-weights yang sangat diminati, dan saya langsung mulai menguji dan bermain dengannya saat itu turun. Saya menjalankannya pada satu Lenovo Think Station PGX, workstation kompakt yang dibangun pada chip GB10 Grace Blackwell Nvidia, dengan 128 GB memori terunifikasi dan 273 GB/s lebar pita. Dari kotak, ia mengelola cukup membosankan 15 hingga 30 token per detik, tetapi dengan setup SGLang, NVFP4, dan DFlash2 spekulatif-decoding yang menjadi resep standar untuk hardware ini, ia bisa mencapai sekitar 50 token per detik pada kode dan pemikiran.

Salah satu uji coba saya, meskipun, hanya membuktikan betapa luar biasa menjadi model lokal. Alasan ada untuk mempercayai hype ketika itu datang ke model Qwen; saya memiliki pengalaman yang konsisten baik dengan Qwen 3.6 27B, dan Qwen 3.8 27B, sehingga sekarang, lebih sama tapi lebih baik. Sebenarnya, Artificial Analysis menganggapnya model open-weights terbaik dalam kelas ukuran 4B hingga 40B dari 135 model, dengan 52 pada indeks kecerdasannya, dan angka sendiri-nya pada hal seperti SWE-bench Pro mengalahkan model yang harganya jauh lebih mahal untuk dijalankan.

Saya memberinya tantangan nyata yang sulit ditempatkan di satu mesin: Reverse-Engineer pengecekan lisensi aplikasi komersial, yang sudah saya bayar dan gunakan, hanya untuk melihat bagaimana ia akan berperforma. Kemungkinan kecil ada di data latihannya, tetapi ini adalah tugas yang sangat kompleks dan spesialisas, dan mengingat beberapa orang telah mengungkapkan kekhawatiran tentang kemampuan siber model, saya...