Microsoft hari ini meluncurkan Microsoft Azure Maia 300, prosesor komputasi in-house terbesar untuk penerbitan Azure Cloud. CEO Satya Nadella merencanakan menskala keluarga chip Maia ke pelbagai gigawatt, menempatkannya sebagai sistem AI inferensi utama perusahaan.
Maia 300 dibangun di atas Maia 200, yang kini ditempatkan di wilayah AS, Eropa, dan Australia, yang menawarkan 70% lebih token per Watt daripada AI GPU. Prosesor baru menawarkan peningkatan efisiensi token per Watt sebesar 40% lebih lanjut.
Prosesor multi-chiplet berbasis tile memiliki main compute die yang dibangun pada node TSMC N2P (2 nm), 18 TB/s HBM4 bandwidth, dan mendukung hingga 96 chip per rack (Maia Pod) dengan scale-out hingga 12,000 chip dalam domain. Memberikan 13.8 peta-OPS FP4 dan 6.9 peta-OPS FP8 performa dengan TDP 950W.
Sumber: TechPowerUp News · Diringkas oleh HeadlinesBriefing