Qwen 3.8 27B एक बहुप्रतीक्षित ओपन-वेट रिलीज़ थी, और मुझे तुरंत इसका परीक्षण करना शुरू कर दिया। मुझे एकल लेनोवो Think Station PGX पर चलाया गया है, जिसे Nvidia के GB10 Grace Blackwell चिप पर बनाया गया है, जिसमें 128 GB एकीकृत स्मृति और 273 GB/s की बैंडविड्थ है। आउट-ऑफ-द-बॉक्स, यह एक काफी उबाऊ 15 से 30 टोकन प्रति सेकंड की गति से प्रबंधन करता है, लेकिन SGLang, NVFP4, और DFlash2 अनुमानित-decoding सेटअप के साथ, जो इस हार्डवेयर के लिए मानक रेसिपी बन गया है, इसे कोड और तर्क पर लगभग 50 टोकन प्रति सेकंड की गति से पहुंचाया जा सकता है। मेरा एक परीक्षण, हालांकि, इस बात का प्रमाण है कि स्थानीय मॉडल कितने अविश्वसनीय हो गए हैं। Qwen मॉडल के लिए हाइप पर विश्वास करने के कारण बहुत हैं; मुझे Qwen 3.6 27B के साथ लगातार अच्छे अनुभव हुए हैं, और Qwen 3.8 27B अब तक उसी तरह का लेकिन बेहतर है। वास्तव में, Artificial Analysis ने इसे 135 मॉडल में से 4B से 40B आकार वर्ग का शीर्ष ओपन-वेट मॉडल घोषित किया है, इसके बुद्धि सूचकांक पर 52 अंकों के साथ, और SWE-bench Pro जैसे कार्यों में लागत से अधिक वाले मॉडल को हराया है। मुझे उस सबसे कठिन वास्तविक कार्य का सौंपा गया जिसे एक मशीन पर फिट किया जा सकता है: एक व्यावसायिक ऐप के लाइसेंस जांच को रिवर्स-इंजीनियर करना, जिसे मैं पहले से ही भुगतान कर चुका हूं और उपयोग कर चुका हूं, सिर्फ यह देखने के लिए कि यह कैसे प्रदर्शन करेगा। प्रशिक्षण डेटा में होने की संभावना कम है, लेकिन यह एक अत्यंत जटिल और विशेषीकृत कार्य है, और कुछ लोगों द्वारा मॉडल के साइबरसुरक्षा क्षमताओं के बारे में व्यक्त की गई चिंताओं को देखते हुए, मैं...