Microsoft hoy presentó el Microsoft Azure Maia 300, su procesador de computación interno más grande para la implementación en Azure Cloud. El CEO Satya Nadella anunció planes para escalar la familia de chips Maia a despliegues de múltiples gigavatios, posicionándolo como el sistema principal de inferencia de IA de la empresa.
El Maia 300 se basa en el Maia 200, actualmente implementado en regiones de EE. UU., Europa y Australia, que ofrece un 70% más de tokens por vatio que los AI GPU. El nuevo procesador ofrece una mejora adicional del 40% en la eficiencia de tokens por vatio.
El procesador de tiles multi-chiplet presenta un die de computación principal construido en el nodo N2P de TSMC (2 nm), 18 TB/s de ancho de banda HBM4 y admite hasta 96 chips por rack (Maia Pod) con escala a 12,000 chips dentro de un dominio. Entrega 13.8 peta-OPS FP4 y 6.9 peta-OPS FP8 rendimiento con un TDP de 950W.
Fuente: TechPowerUp News · Resumido por HeadlinesBriefing