Microsoft a dévoilé aujourd'hui le Microsoft Azure Maia 300, son plus grand processeur de calcul interne pour le déploiement Azure Cloud. Le PDG Satya Nadella a annoncé des projets pour faire évoluer la famille de puces Maia vers des déploiements multi-gigawatt, la positionnant comme le système principal d'inférence IA de l’entreprise.
Le Maia 300 s’appuie sur le Maia 200, actuellement déployé dans les régions US, Europe et Australie, qui offre 70% de tokens par watt en plus que les AI GPU. Le nouveau processeur offre une amélioration supplémentaire de 40% de l’efficacité tokens par watt.
Le processeur multi-puce à tuiles présente un die de calcul principal construit sur le nœud N2P de TSMC (2 nm), 18 TB/s de bande passante HBM4, et prend en charge jusqu’à 96 puces par rack (Maia Pod) avec mise à l’échelle jusqu’à 12,000 puces dans un domaine. Il délivre 13.8 peta-OPS FP4 et 6.9 peta-OPS FP8 avec un TDP de 950W.
Source: TechPowerUp News · Résumé par HeadlinesBriefing