Marvell Technology, Inc., ডেটা ইনফ্রাস্ট্রাকচার সেমিকন্ডাক্টর সমাধানের একটি শীর্ষস্থানীয় প্রতিষ্ঠান, দ্বিতীয় প্রজন্মের Marvell Structera X 3406 ও Structera X 3506 CXL মেমরি এক্সপেন্ডার ঘোষণা করেছে। এই পণ্যগুলো ক্লাউড, এন্টারপ্রাইজ ও AI অবকাঠামো প্রদানকারীদের AI ও কম্পিউটিংয়ের পরবর্তী যুগের জন্য আরও দক্ষ, স্কেলযোগ্য ও উচ্চ-কার্যক্ষমতাসম্পন্ন সিস্টেম তৈরিতে সহায়তা করার জন্য ডিজাইন করা হয়েছে।
AI ও ML ওয়ার্কলোড ডেটা সেন্টারের নকশা নতুনভাবে গড়ে তুলছে। ক্রমবর্ধমান LLM আকার, বিস্তৃত কনটেক্সট উইন্ডো এবং বাড়তে থাকা KV-ক্যাশের চাহিদা এমন মেমরির দাবি তৈরি করছে, যা ঐতিহ্যবাহী সার্ভার আর্কিটেকচার পূরণ করতে হিমশিম খাচ্ছে। LLM সার্ভিং থেকে ডিপ লার্নিং রেকমেন্ডেশন মডেল (DLRM) পর্যন্ত আধুনিক AI ইনফারেন্স ওয়ার্কলোড মেমরি-বাউন্ড, এবং KV-ক্যাশের ক্ষমতা সরাসরি টাইম টু ফার্স্ট টোকেন (TTFT), থ্রুপুট ও XPU ব্যবহার নির্ধারণ করে।
Structera X 3406/3506 বেশ কিছু শিল্প-প্রথম বৈশিষ্ট্য নিয়ে আসছে। এর ছয়-চ্যানেল CXL মেমরি সম্প্রসারণ আগের প্রজন্মের তুলনায় ৫০% বেশি চ্যানেল দেয়, 3406-এ ৯ TB পর্যন্ত DDR4 মেমরি এবং 3506-এ ৬ TB পর্যন্ত DDR5 মেমরি সমর্থন করে। হোস্ট কানেক্টিভিটি চারটি হোস্টের সঙ্গে মেমরি ক্ষমতা ভাগাভাগির সুযোগ দেয় এবং ২৫৬ GB/s পর্যন্ত PCIe 6.0 x16 হোস্ট ব্যান্ডউইথ প্রদান করে। LZ4 কমপ্রেশন থ্রুপুট ৫ গুণ পর্যন্ত বেশি, যা ২-৩ গুণ পর্যন্ত কার্যকর মেমরি ক্ষমতা উন্মুক্ত করে। ডিভাইসগুলোতে Struct Guard এন্টারপ্রাইজ-গ্রেড নির্ভরযোগ্যতা বৈশিষ্ট্য ও পোস্ট-কোয়ান্টাম নিরাপত্তাও যুক্ত হয়েছে।
DLRM ওয়ার্কলোডের ক্ষেত্রে, Structera X ২ গুণ পর্যন্ত বেশি প্রতি সেকেন্ডে কোয়েরি প্রদান করে। LLM সার্ভিংয়ের ক্ষেত্রে, সমমানের কনটেক্সট দৈর্ঘ্যে এটি TTFT ৪০-৫০% দ্রুত করে, অথবা সমমানের লেটেন্সিতে ২ গুণ পর্যন্ত দীর্ঘ সমর্থনযোগ্য কনটেক্সট উইন্ডো দেয়। প্রথম প্রজন্মের Structera X 2404/2504-এর ভিত্তিতে, নতুন পণ্যগুলো প্রমাণিত সফটওয়্যার স্ট্যাক ও ইকোসিস্টেম ইন্টিগ্রেশন ব্যবহার করে দ্রুত বাজারে আসার সুবিধা দেয়।
Objective Analysis-এর জেনারেল ডিরেক্টর Jim Handy বলেন, উচ্চ ব্যান্ডউইথ ও বড় মেমরি আকার সমর্থনের কারণে CXL AI সিস্টেমে ব্যাপকভাবে গৃহীত হচ্ছে। তিনি উল্লেখ করেন, বর্তমান মেমরি সংকট ও উচ্চ দামের কারণে IT ম্যানেজাররা ব্যবহৃত DDR4 DIMM পুনরায় DDR5 সিস্টেমে ব্যবহার করছেন, এবং মেমরি পুলিং বাড়ার সঙ্গে সঙ্গে কমপ্রেশন বৈশিষ্ট্য আরও মূল্যবান হয়ে উঠবে।
উৎস: TechPowerUp News · সারাংশ: HeadlinesBriefing