أعلنت شركة Marvell Technology, Inc.، الرائدة في حلول أشباه الموصلات للبنية التحتية للبيانات، عن موسعات الذاكرة من الجيل الثاني Marvell Structera X 3406 وStructera X 3506 من نوع CXL. صُممت هذه المنتجات لمساعدة مزودي البنية التحتية السحابية والمؤسسية والذكاء الاصطناعي على بناء أنظمة أكثر كفاءة وقابلية للتوسع وأداءً أعلى للعصر القادم من الذكاء الاصطناعي والحوسبة.
تعيد أحمال عمل الذكاء الاصطناعي وتعلم الآلة تشكيل تصميم مراكز البيانات. فنمو أحجام نماذج اللغة الكبيرة واتساع نوافذ السياق وارتفاع متطلبات ذاكرة KV-cache تخلق طلبات على الذاكرة تكافح البنى التقليدية للخوادم لتلبيتها. وأحمال استدلال الذكاء الاصطناعي الحديثة، من تقديم نماذج اللغة الكبيرة إلى نماذج التوصية بالتعلم العميق (DLRM)، مقيّدة بالذاكرة، وتحدد سعة KV-cache بشكل مباشر زمن الوصول إلى أول رمز (TTFT) والإنتاجية وكفاءة استخدام XPU.
تقدم Structera X 3406/3506 عدة ميزات رائدة في الصناعة. فتوسعة الذاكرة ذات القنوات الست من CXL توفر قنوات أكثر بنسبة 50% من الجيل السابق، وتدعم حتى 9 تيرابايت من ذاكرة DDR4 في الطراز 3406 و6 تيرابايت من ذاكرة DDR5 في الطراز 3506. تتيح الاتصالية بالمضيف مشاركة سعة الذاكرة مع ما يصل إلى أربعة مضيفين، وعرض نطاق PCIe 6.0 x16 للمضيف يصل إلى 256 غيغابايت/ثانية. كما تصل إنتاجية ضغط LZ4 إلى 5 أضعاف، مما يتيح ما يصل إلى 2-3 أضعاف من سعة الذاكرة الفعالة. وتضيف الأجهزة كذلك ميزات موثوقية بمستوى المؤسسات تُسمى Struct Guard، وأمانًا ما بعد الكم.
بالنسبة لأحمال DLRM، توفر Structera X ما يصل إلى ضعفين من الاستعلامات في الثانية. أما لتقديم نماذج اللغة الكبيرة، فإنها توفر زمن وصول إلى أول رمز أسرع بنسبة 40-50% عند طول سياق مماثل، أو نوافذ سياق أطول تصل إلى ضعفين عند زمن استجابة مماثل. وبالاعتماد على Structera X 2404/2504 من الجيل الأول، تستخدم المنتجات الجديدة حزمة البرمجيات المثبتة وتكاملات النظام البيئي لدعم تسريع الإطلاق.
قال Jim Handy، المدير العام في Objective Analysis، إن CXL يكتسب اعتمادًا واسعًا في أنظمة الذكاء الاصطناعي بفضل عرض نطاقه العالي ودعمه لأحجام ذاكرة كبيرة. وأشار إلى أن نقص الذاكرة الحالي والأسعار المرتفعة يدفعان مديري تقنية المعلومات إلى إعادة نشر وحدات DDR4 المستعملة في أنظمة DDR5، وأن ميزات الضغط ستصبح أكثر قيمة مع توسع تجميع الذاكرة.
المصدر: TechPowerUp News · لخّصه HeadlinesBriefing