Qwen 3.8 27B fue uno de los lanzamientos de código abierto más muy esperados que he visto en mucho tiempo, y comencé a probarlo y jugar con él tan pronto como salió. Lo ejecuto en una sola estación de trabajo Lenovo Think Station PGX, una computadora compacta basada en el chip GB10 Grace Blackwell de Nvidia, con 128 GB de memoria unificada y 273 GB/s de ancho de banda. De salida, maneja una bastante aburrida 15 a 30 tokens por segundo, pero con una configuración SGLang, NVFP4 y DFlash2 de decodificación especulativa, que se ha convertido en la receta estándar para este hardware, puede alcanzar alrededor de 50 tokens por segundo en código y razonamiento.

Una de mis pruebas, sin embargo, demostró solo lo increíbles que han llegado a ser los modelos locales. Hay razones para creer el hype cuando se trata de los modelos Qwen; He tenido experiencias consistentemente buenas con Qwen 3.6 27B, y Qwen 3.8 27B es, hasta ahora, más de lo mismo pero mejor. De hecho, Artificial Analysis lo tiene como el modelo de código abierto mejor calificado en su clase de tamaño de 4B a 40B de 135 modelos, con un 52 en su índice de inteligencia, y sus propios números en cosas como SWE-bench Pro superan a modelos que cuestan mucho más para ejecutar.

Le di la tarea más difícil que cabe en una máquina: inversa ingeniería la verificación de licencia de una aplicación comercial, una que ya he pagado y usado, solo para ver cómo se desempeñaría. Poco probable que esté en sus datos de entrenamiento, pero es una tarea altamente compleja y especializada, y dado las preocupaciones que algunas personas han expresado sobre las capacidades de ciberseguridad del modelo, fui...