Marvell Technology, Inc., डेटा इंफ्रास्ट्रक्चर सेमीकंडक्टर समाधानों में अग्रणी कंपनी, ने दूसरी पीढ़ी के Marvell Structera X 3406 और Structera X 3506 CXL मेमोरी एक्सपैंडर की घोषणा की है। ये उत्पाद क्लाउड, एंटरप्राइज़ और AI इंफ्रास्ट्रक्चर प्रदाताओं को AI और कंप्यूटिंग के अगले युग के लिए अधिक कुशल, स्केलेबल और उच्च-प्रदर्शन वाले सिस्टम बनाने में मदद करने के लिए डिज़ाइन किए गए हैं।
AI और ML वर्कलोड डेटा सेंटर डिज़ाइन को नया रूप दे रहे हैं। बढ़ते LLM आकार, विस्तारित कॉन्टेक्स्ट विंडो और बढ़ती KV-कैश आवश्यकताएँ ऐसी मेमोरी माँगें पैदा कर रही हैं जिन्हें पारंपरिक सर्वर आर्किटेक्चर पूरा करने में संघर्ष करते हैं। LLM सर्विंग से लेकर डीप लर्निंग रिकमेंडेशन मॉडल (DLRM) तक, आधुनिक AI इनफ़रेंस वर्कलोड मेमोरी-बाउंड हैं, और KV-कैश क्षमता सीधे टाइम टू फ़र्स्ट टोकन (TTFT), थ्रूपुट और XPU उपयोग को निर्धारित करती है।
Structera X 3406/3506 में कई उद्योग-प्रथम विशेषताएँ हैं। इसका छह-चैनल CXL मेमोरी विस्तार पिछली पीढ़ी की तुलना में 50% अधिक चैनल देता है, 3406 पर 9 TB DDR4 मेमोरी और 3506 पर 6 TB DDR5 मेमोरी तक समर्थन करता है। होस्ट कनेक्टिविटी चार होस्ट तक मेमोरी क्षमता साझा करने और 256 GB/s तक PCIe 6.0 x16 होस्ट बैंडविड्थ की सुविधा देती है। LZ4 कंप्रेशन थ्रूपुट 5 गुना तक अधिक है, जिससे 2-3 गुना तक अधिक प्रभावी मेमोरी क्षमता मिलती है। इन उपकरणों में Struct Guard एंटरप्राइज़-ग्रेड विश्वसनीयता सुविधाएँ और पोस्ट-क्वांटम सुरक्षा भी जोड़ी गई है।
DLRM वर्कलोड के लिए, Structera X 2 गुना तक अधिक प्रति सेकंड क्वेरी प्रदान करता है। LLM सर्विंग के लिए, यह समान कॉन्टेक्स्ट लंबाई पर TTFT को 40-50% तक तेज़ करता है, या समान विलंबता पर 2 गुना तक लंबी समर्थित कॉन्टेक्स्ट विंडो देता है। पहली पीढ़ी के Structera X 2404/2504 पर आधारित, नए उत्पाद सिद्ध सॉफ़्टवेयर स्टैक और इकोसिस्टम एकीकरण का उपयोग करते हैं ताकि तेज़ रैंप-अप का समर्थन हो सके।
Objective Analysis के महाप्रबंधक Jim Handy ने कहा कि CXL अपने उच्च बैंडविड्थ और बड़े मेमोरी आकार के समर्थन के कारण AI सिस्टम में व्यापक रूप से अपनाया जा रहा है। उन्होंने कहा कि वर्तमान मेमोरी की कमी और ऊँची कीमतें IT प्रबंधकों को उपयोग की गई DDR4 DIMM को DDR5 सिस्टम में पुनः तैनात करने के लिए प्रेरित कर रही हैं, और मेमोरी पूलिंग बढ़ने के साथ कंप्रेशन सुविधाएँ और भी मूल्यवान होंगी।
स्रोत: TechPowerUp News · HeadlinesBriefing द्वारा सारांशित