d-Matrix сегодня анонсировала d-Matrix Squadron — парк многорэковых систем, Delivering мегаватты эффективной вычислительной мощности для AI моделей в масштабе центра данных. Построенные на архитектуре d-Matrix, ориентированной на память, класты Squadron обслуживают AI-лаборатории, предприятия и суверенные организации, работающие с задержками чувствительные приложения, такие как кодирование, личные агенты, кибербезопасность и высокочастотная торговля. Разработано с Arista, Broadcom и Supermicro, Squadron развертывается в центре данных Arizona д-Matrix и уже отправляется приоритетным клиентам. Серверы Corsair и Squad Racks также доступны в общем доступе.
«Путь к обеспечению наших клиентов с нашим преимуществом вычислений, ориентированных на память, совпадает с эволюцией d-Matrix от специализированной чип-компании к бизнесу вычислительной инфраструктуры центра данных», сказал Sid Sheth, основатель и CEO d-Matrix, представив Squadron на OCP Global Summit в San Jose. «С Squadron, отправляющимся, и нашими серверами Corsair и Squad Racks, теперь доступными в общем доступе, ожидание закончилось.»
Squadron масштабируется до 16 Squad Racks — одиночных восьмисерверных стойок — поддерживают до 1,024 d-Matrix Corsair XPU. Класты используют NIC Jet Stream и программное обеспечение Aviator и охлаждаются по стандартам отрасли воздухом, интегрируясь в существующие центры данных без жидкостного охлаждения.
Во время своего ключевого выступления Шет раскрыл, что d-Matrix успешно реализовала Attention-FFN Disaggregation (AFD), используя Squadron в паре с GPU-серверами. Перегрузка Experts/FFN на стойки Corsair привела к 845 токенам в секунду на пользователя, с 64 одновременными пользователями, достигшими 20,415 токенов в секунду общего производительности.
Источник: TechPowerUp News · Сводку подготовил HeadlinesBriefing