d-Matrix は本日、データセンター規模で AI モデル用にメガワット級の効率的な推論計算を提供するマルチラックシステムのフリートである d-Matrix Squadron を発表しました。d-Matrix のメモリ中心アーキテクチャに基づいて構築された Squadron クラスターは、符号化、パーソナルエージェント、サイバーセキュリティ、高频取引などの遅延感応型アプリケーションを実行する AI 研究所、企業、主権機関に役立ちます。Arista、Broadcom、Supermicro と共同開発された Squadron は、d-Matrix のアリゾナデータセンターに展開され、優先顧客への出荷を開始しました。Corsair サーバーと Squad Racks も一般利用可能になりました。
「メモリ中心計算の優位性で顧客を可能にする旅は、d-Matrix が専用チップ会社からデータセンター計算インフラストラクチャ企業へと進化するのと同時です」と、Sid Sheth 氏は San Jose で開催された OCP Global Summit で Squadron を発表while说过。「Squadron の出荷と、Corsair サーバーと Squad Racks の一般提供開始により、待望の時が来ました。」
Squadron は最大 16 個の Squad Racks（それぞれ 8 台のサーバーラック）にスケールし、最大 1,024 個の d-Matrix Corsair XPU をサポートします。クラスターは Jet Stream NIC と Aviator ソフトウェアを使用し、業界標準の空冷で冷却され、液体冷却なしで既存のデータセンターに統合できます。
キーノートで、Sheth 氏は d-Matrix が Squadron と GPU サーバーを組み合わせて Attention-FFN Disaggregation (AFD) を成功させたことを明らかにしました。Experts/FFN を Corsair ラックにオフロード resulted in 845 tokens/秒/ユーザー、64 人の同時ユーザーが 20,415 tokens/秒 の全体スループットに達しました。
出典: TechPowerUp News · 要約：HeadlinesBriefing