d-Matrix আজ d-Matrix Squadron ঘোষণা করেছে, যা ডেটা সেন্টার স্কেলে AI মডেলের জন্য মেগাওয়াট করে দক্ষতা সম্পন্ন ইনফারেন্স কম্পিউট প্রদান করে। d-Matrix-এর মেমোরি-সেন্ট্রিক আর্কিটেকচার তৈরি Squadron ক্লাস্টারগুলো লেটেন্সি-সেন্সিটিভ অ্যাপ্লিকেশনগুলো যেমন কোডিং, পার্সোনাল এজেন্টস, সাইবারসিকিউরিটি এবং হাই-ফ্রিকোয়েন্সি ট্রেডিং চালানো AI ল্যাবস, এন্টারপ্রাইজ এবং সোভরেন অর্গানাইজেশনগুলোকে সেবা দেয়। Arista, Broadcom এবং Supermicro-র সাথে উন্নত, Squadron কে d-Matrix-এর আরিজোনা ডেটা সেন্টারে স্থাপন করা হয়েছে এবং এখন প্রাথমিক গ্রাহকদের জন্য শিপ করা হচ্ছে। Corsair সার্ভার এবং Squad Racks এখন সাধারণভাবে প্রযোজ্য।
"আমাদের মেমোরি-সেন্ট্রিক কম্পিউট সুবিধা দিয়ে গ্রাহকদের সক্ষম করার যাত্রা d-Matrix-এর একটি স্পেশালাইজড চিপ কোম্পানি থেকে একটি ডেটা সেন্টার কম্পিউট ইনফ্রাস্ট্রাকচার বিজনেসে রূপান্তরের সাথে সমকালিক," শেUTH বলেছেন, যিনি সান জোসে OCP গ্লোবাল সমিটে Squadron উন্মোচন করেছেন। "Squadron শিপ হওয়া এবং আমাদের Corsair সার্ভার এবং Squad Racks এখন সাধারণভাবে প্রযোজ্য হওয়ায়, অপেক্ষার শেষ হয়েছে।"
Squadron 16 পর্যন্ত Squad Racks — একটি আট-সার্ভার র্যাক — সমর্থন করে, যা 1,024 d-Matrix Corsair XPU পর্যন্ত সমর্থন করে। ক্লাস্টারগুলো Jet Stream NICs এবং Aviator সফটওয়ার ব্যবহার করে এবং ইন্ডাস্ট্রি স্ট্যান্ডার্ডে এয়ার-কুলড হয়, যাতে লিকুয়েড কুলিং ছাড়াই বিদ্যমান ডেটা সেন্টারগুলোতে ইন্টিগ্রেট করা যায়।
তার কীনোর্ডারে, শেUTH প্রকাশ করেছেন যে d-Matrix সফলভাবে Attention-FFN Disaggregation (AFD) প্রয়োগ করেছে Squadron পায়ের সাথে GPU সার্ভার জুড়ে। Corsair র্যাকগুলোতে Experts/FFN সরানোর ফলে প্রতি ইউজার 845 টোকেন প্রতি সেকেন্ড হয়েছে, যা 64 সমকালিক ইউজারদের মোট 20,415 টোকেন প্রতি সেকেন্ড থ্রুপুট প্রাপ্তি করেছে।
উৎস: TechPowerUp News · সারাংশ: HeadlinesBriefing