Qwen 3.8 27B était l'une des sorties open-weights les plus très attendues que j'ai vues depuis longtemps, et j'ai immédiatement commencé à le tester et à l'essayer lorsqu'il est sorti. Je l'exécute sur un seul Lenovo Think Station PGX, un poste de travail compact basé sur la puce GB10 Grace Blackwell de Nvidia, avec 128 Go de mémoire unifiée et 273 Go/s de bande passante. Par défaut, il gère une assez ennuyeuse 15 à 30 tokens par seconde, mais avec une configuration SGLang, NVFP4 et DFlash2 décodage spéculatif, devenue la recette standard pour ce matériel, elle peut atteindre environ 50 tokens par seconde en code et en raisonnement.

L'un de mes tests, pourtant, a prouvé à quel point les modèles locaux sont devenus incroyables. Il y a des raisons de croire au battage médiatique lorsqu'il s'agit des modèles Qwen ; j'ai constamment de bonnes expériences avec Qwen 3.6 27B, et Qwen 3.8 27B est, pour l'instant, plus du même mais meilleur. En fait, Artificial Analysis le classe comme le modèle open-weights n°1 dans sa classe de taille de 4B à 40B parmi 135 modèles, avec un 52 sur son indice d'intelligence, et ses propres chiffres sur des choses comme SWE-bench Pro battent des modèles qui coûtent beaucoup plus cher à faire fonctionner.

J'ai donné la tâche la plus difficile qui tient sur une machine : inverse ingénierie la vérification de licence d'une application commerciale, que j'ai déjà payée et utilisée, juste pour voir comment elle se porterait. Peu probable qu'elle soit dans ses données d'entraînement, mais c'est une tâche hautement complexe et spécialisée, et compte tenu des inquiétudes que certaines personnes ont exprimées sur les capacités de cybersécurité du modèle, je...