Microsoft сегодня представила Microsoft Azure Maia 300, свой самый большой собственный процессор вычислений для развертывания Azure Cloud. CEO Сатья Наделла объявил о планах по масштабированию семейства чипов Maia на многогигаваттовые развертывания, позиционируя его как основную систему инференса ИИ компании.
Maia 300 основан на Maia 200, который в настоящее время развернут в регионах США, Европы и Австралии, обеспечивая на 70% больше токенов на Ватт, чем AI GPU. Новый процессор предлагает дополнительный рост эффективности на 40% в токенах на Ватт.
Процессор с многочиплетной тайловой архитектурностью имеет главный вычисляющий die, построенный на узле TSMC N2P (2 нм), полосу пропускания HBM4 объемом 18 TB/s, и поддерживает до 96 чипов на rack (Maia Pod) с масштабированием до 12,000 чипов в домене. Дает 13.8 peta-OPS FP4 и 6.9 peta-OPS FP8 с TDP 950W.
Источник: TechPowerUp News · Сводку подготовил HeadlinesBriefing