Qwen 3.8 27B ছিলেকে অপেক্ষিত ওপেন-ওয়েট রিলিজ যা আমার অনেকদিন ধরে, এবং আমি তৎক্ষণে পরীক্ষা শুরু করলাম এবং খেলার সাথে খেলতে পেলাম যখন এটি পড়েছিল। আমি এটি একক লেনোভো Think Station PGX-তে চালাচ্ছি, যা Nvidia GB10 Grace Blackwell চিপে ভিত্তি করে কম্প্যাক্ট কাজস্থান, 128 GB একীকৃত স্মৃতি এবং 273 GB/s ব্যান্ডউইথের সাথে। বক্স থেকে, এটি খুব বorale 15 থেকে 30 টোকেন প্রতি সেকেন্ড পরিচালনা করে, কিন্তু SGLang, NVFP4, এবং DFlash2 অনুমান-ডিকোডিং সেটআপ-which এই হার্ডওয়্যারের জন্য মানক রেসিপি-ban, এটি কোড এবং যুক্তিতে প্রতি সেকেন্ড প্রায় 50 টোকেনে পৌঁছে যেতে পারে। আমার একটি পরীক্ষা, তবে, প্রমাণ করেছে যে স্থানীয় মডেল কতটুকু অবিশ্বাসী হয়েছে। Qwen মডেলের জন্য হাইপের জন্য অনেক কারণ রয়েছে; আমি Qwen 3.6 27B-তে লক্ষ্যভিত্তিক ভালো অভূত adventure পেয়েছি, এবং Qwen 3.8 27B এখন পর্যন্ত, একই কিন্তু ভালো।実際、 Artificial Analysis এতে 135 মডেল মধ্যে 4B থেকে 40B সাইজ ক্লাসের টপ ওপেন-ওয়েট মডেল ঘোষণা করেছে, এর বুদ্ধিমত্তা সূচকে 52 নম্বর, এবং SWE-bench Pro-তে খারচে বেশি মডেলকে হারিয়ে পেল। আমাকে এক মেশিনে ফিট হতে পারে সবচেয়ে কঠিন বাস্তব কাজ দেওয়া: একটি কমার্শিয়াল অ্যাপের লাইসেন্স চেক রিভার্স-ইঞ্জিনিয়ারিং, যা আমি আগে থেকে পেয়েছি এবং ব্যবহার করেছি, শুধু দেখতে পেতে কীভাবে এটি প্রদर्शन করবে। প্রশিক্ষণ ডেটায় থাকা সম্ভব নहीं, কিন্তু এটি একটি অত্যন্ত জটিল এবং বিশেষকরণকর কাজ, এবং কিছু ব্যক্তি মডেলের সাইবারসুরকির ক্ষমতা সম্পর্কে জোরে জহুরে থাকা, আমি...