d-Matrix ने आज d-Matrix Squadron की घोषणा की, जो मल्टी-रैक सिस्टम्स की एक फ्लीट है जो डेटा सेंटर स्केल पर AI मॉडल्स के लिए मेगावॉट्स की दक्षता वाली इन्फरेंस कंप्यूटिंग प्रदान करती है। d-Matrix की मेमोरी-सेंट्रिक आर्किटेक्चर पर बनी Squadron क्लस्टर्स, लैटेंसी-सेंसिटिव एप्लीकेशन्स जैसे कोडिंग, पर्सनल एजेंट्स, साइबरसिक्यूरिटी और हाई-फ्रिक्वेंसी ट्रेडिंग चलाने वाले AI लैब्स, एंटरप्राइज़ और सोवरेन ऑर्गेनाइज़ेशन्स की सेवा करती हैं। Arista, Broadcom और Supermicro के साथ विकसित, Squadron को d-Matrix के एरिजोना डेटा सेंटर में तैनात किया गया है और अब प्राथमिक ग्राहकों को शिप किया जा रहा है। Corsair सर्वर और Squad Racks भी सामान्य रूप से उपलब्ध हैं।
"ग्राहकों को हमारी मेमोरी-सेंट्रिक कंप्यूटिंग लाभ सक्षम करने की यात्रा, d-Matrix के एक विशेषायित चिप कंपनी से एक डेटा सेंटर कंप्यूटिंग इन्फ्रास्ट्रक्चर बिज़नेस में विकास के साथ समकालिक है," शेथ ने कहा, जिन्होंने सांजोस में OCP ग्लोबल समिट में Squadron का अनावरण किया। "Squadron शिप होने और हमारे Corsair सर्वर और Squad Racks अब सामान्य रूप से उपलब्ध होने के कारण, प्रतीक्षा समाप्त हो गई है।"
Squadron 16 Squad Racks — प्रत्येक आठ-सर्वर रैक्स — तक पहुंच सकती है, जो 1,024 d-Matrix Corsair XPU का समर्थन करती है। क्लस्टर्स Jet Stream NICs और Aviator सॉफ्टवेयर का उपयोग करते हैं, और उद्योग मानकों पर एयर-कूल्ड हैं, जिससे लिक्विड कूलिंग के बिना मौजूदा डेटा सेंटर्स में एकीकरण संभव है।
अपने कीनोर्डर में, शेथ ने प्रकट किया कि d-Matrix ने Squadron को GPU सर्वर्स के साथ जोड़कर Attention-FFN Disaggregation (AFD) को सफलतापूर्वक लागू किया। Experts/FFN को Corsair रैक्स पर हस्तांतरित करने से प्रति यूजर 845 टोकन प्रति सेकंड मिले, जबकि 64 समकालिक यूजर्स ने कुल 20,415 टोकन प्रति सेकंड की थ्रूपुट हासिल की।
स्रोत: TechPowerUp News · HeadlinesBriefing द्वारा सारांशित