Qwen 3.8 27B был одним из самых ожидаемых релизов с открытыми весами, который я видел давно, и сразу же приступил к его тестированию и игре, когда он вышел. Я запускаю его на одной Lenovo Think Station PGX, компактной рабочей станции, построенной на чипе Nvidia GB10 Grace Blackwell, с 128 ГБ объединенной памяти и 273 ГБ/с пропускной способности. Из коробки она справляется с довольно скучной 15-30 токенами в секунду, но с настройкой SGLang, NVFP4 и DFlash2 speculative-decoding, которая стала стандартной рецептурой для этого оборудования, она может достигать около 50 токенов в секунду на код и рассуждения. Одним из моих тестов, однако, доказало, насколько невероятными стали локальные модели. Есть причины верить в хайп, когда речь идет о моделях Qwen; у меня постоянно были хорошие опыты с Qwen 3.6 27B, и Qwen 3.8 27B, пока, больше того же, но лучше. На самом деле, Artificial Analysis ставит его в класс лучших open-weights моделей размером от 4B до 40B из 135 моделей, с 52 на своем индексе интеллекта, и свои цифры на вещах вроде SWE-bench Pro переигрывают модели, которые стоят намного дороже в запуске. Я дал ему самый сложный реальный задачу, который помещается в одну машину: reverse-инжинирование проверки лицензии коммерческого приложения, которое я уже оплатил и использовал, просто чтобы посмотреть, как оно справится. Скорее всего, это не будет в его обучающей выборке, но это задача высоко сложная и специализированная, и с учетом опасений, которые некоторые люди выразили относительно возможностей модели в области кибербезопасности, я...