Marvell Technology, Inc., ein führender Anbieter von Halbleiterlösungen für Dateninfrastruktur, hat die CXL-Speichererweiterungen der zweiten Generation Marvell Structera X 3406 und Structera X 3506 angekündigt. Die Produkte sind darauf ausgelegt, Anbieter von Cloud-, Unternehmens- und KI-Infrastruktur dabei zu unterstützen, effizientere, skalierbarere und leistungsstärkere Systeme für die nächste Ära von KI und Computing aufzubauen.
KI- und ML-Workloads verändern das Design von Rechenzentren. Wachsende LLM-Größen, erweiterte Kontextfenster und steigende KV-Cache-Anforderungen erzeugen Speicherbedarfe, die herkömmliche Serverarchitekturen nur schwer bewältigen können. Moderne KI-Inferenz-Workloads, vom LLM-Serving bis zu Deep-Learning-Empfehlungsmodellen (DLRM), sind speichergebunden, und die KV-Cache-Kapazität bestimmt direkt die Zeit bis zum ersten Token (TTFT), den Durchsatz und die Auslastung der XPUs.
Die Structera X 3406/3506 bieten mehrere branchenweit erstmalige Funktionen. Die sechskanalige CXL-Speichererweiterung bietet 50 % mehr Kanäle als die Vorgängergeneration und unterstützt bis zu 9 TB DDR4-Speicher beim 3406 sowie 6 TB DDR5-Speicher beim 3506. Die Host-Anbindung ermöglicht die gemeinsame Nutzung der Speicherkapazität mit bis zu vier Hosts und bis zu 256 GB/s PCIe-6.0-x16-Host-Bandbreite. Der LZ4-Kompressionsdurchsatz ist bis zu 5-mal höher, wodurch sich die effektive Speicherkapazität um das 2- bis 3-Fache erhöhen lässt. Die Geräte bieten außerdem die Zuverlässigkeitsfunktionen der Enterprise-Klasse Struct Guard sowie post-quantensichere Sicherheit.
Bei DLRM-Workloads liefert die Structera X bis zu 2-mal höhere Abfragen pro Sekunde. Beim LLM-Serving sorgt sie für bis zu 40–50 % schnellere TTFT bei gleicher Kontextlänge oder für bis zu 2-mal längere unterstützte Kontextfenster bei gleicher Latenz. Aufbauend auf der Structera X 2404/2504 der ersten Generation nutzen die neuen Produkte den bewährten Software-Stack und die Ökosystem-Integrationen, um einen beschleunigten Markthochlauf zu ermöglichen.
Jim Handy, Generaldirektor bei Objective Analysis, erklärte, dass CXL dank seiner hohen Bandbreite und der Unterstützung großer Speicherkapazitäten in KI-Systemen zunehmend Verbreitung findet. Er wies darauf hin, dass der aktuelle Speichermangel und die hohen Preise IT-Verantwortliche dazu bewegen, gebrauchte DDR4-DIMMs in DDR5-Systemen weiterzuverwenden, und dass Kompressionsfunktionen mit dem Ausbau des Speicher-Poolings zunehmend an Wert gewinnen werden.
Quelle: TechPowerUp News · Zusammengefasst von HeadlinesBriefing