Qwen 3.8 27B foi um dos lançamentos open-weights mais muito esperados que já vi, e comecei imediatamente a testá-lo e a brincar com ele quando caiu. Estou rodando-o em um único Lenovo Think Station PGX, esta estação de trabalho compacta construída sobre o chip GB10 Grace Blackwell da Nvidia, com 128 GB de memória unificada e 273 GB/s de largura de banda. De fora, gerencia uma bastante entediante 15 a 30 tokens por segundo, mas com um setup SGLang, NVFP4 e DFlash2 de decodificação especulativa, que se tornou a receita padrão para este hardware, pode atingir cerca de 50 tokens por segundo em código e raciocínio.

Um dos meus testes, porém, provou apenas o quão incríveis os modelos locais se tornaram. Há razões para acreditar no hype quando se trata dos modelos Qwen; tive experiências consistentemente boas com Qwen 3.6 27B, e Qwen 3.8 27B é, até agora, mais do mesmo, mas melhor. Na verdade, a Artificial Analysis tem como o modelo open-weights melhor classificado em sua classe de tamanho de 4B a 40B de 135 modelos, com um 52 em seu índice de inteligência, e seus próprios números em coisas como SWE-bench Pro batem modelos que custam muito mais para executar.

Dei a ele a tarefa mais difícil que cabe em uma máquina: reverse-engineering a verificação de licença de um aplicativo comercial, que já paguei e usei, apenas para ver como ele se sairia. Provavelmente não estará em seus dados de treinamento, mas é uma tarefa altamente complexa e especializada, e dado as preocupações que algumas pessoas têm expresso sobre as capacidades de cibersegurança do modelo, fui...