أعلنت d-Matrix اليوم عن d-Matrix Squadron، أسطول من أنظمة متعددة الرفوف تقدّر ميغوات من الكفاءة للاستنتاج الحاسبي ل(answer) نماذج AI في حجم مراكز البيانات. بُنيتclusters Squadron على الهندسة المركزة على الذاكرة belonging لـ d-Matrix، وتُستخدم من قبل مختبرات AI، وال companies، والكيانات السيادية التي ت(run) تطبيقات حساسة لل延迟 مثل البرمجة، والوكيل الشخصي، والأمن السيبرالي، والتجارة عالية التردد. تم تطويرها بال_past_ مع Arista، و Broadcom، و Supermicro، ونُشرت Squadron في مركز البيانات Arizona لـ d-Matrix، و now تُshipment للعملاء الأولوية. وavailable servers Corsair والـ Squad Racks بشكل عام.
"رحلة تمكين العملاء بAdvantage الحاسوب المركز على الذاكرة ت coincide مع تطور d-Matrix من company تخصص الرقائق إلى business بيئة الحاسوب في مراكز البيانات،" قال Sid Sheth، المؤسس والCEO لـ d-Matrix، الذي كشف عن Squadron في القمة Global OCP في San Jose. "مع Squadron shipping، و servers Corsair والـ Squad Racks now generally available، الانتظار انتهى."
Squadron scales up to 16 Squad Racks—single eight-server racks—supporting up to 1,024 d-Matrix Corsair XPU. Clusters use Jet Stream NICs و software Aviator، و are air-cooled on industry standards، integrating into existing data centers without liquid cooling.
During his keynote، Sheth revealed d-Matrix implemented Attention-FFN Disaggregation (AFD) using Squadron paired with GPU servers. Offloading Experts/FFN to Corsair racks yielded 845 tokens per second per user، with 64 concurrent users reaching 20,415 tokens per second total throughput.
المصدر: TechPowerUp News · لخّصه HeadlinesBriefing