Microsoft が本日、Microsoft Azure Maia 300 を発表しました。Azure Cloud 導入向けの社内最大のコンピューティングプロセッサです。CEO Satya Nadella は、Maia チップファミリーをマルチギガワット展開にスケールする計画を発表し、同社の主要な AI 推論システムとして位置づけています。
Maia 300 は、現在米国、欧州、オーストラリア地域で展開されている Maia 200 をベースとしており、AI GPU よりも 70% 多くのトークン毎ワットを提供します。新プロセッサはさらに 40% のトークン毎ワット効率向上を提供します。
マルチチップレットタイルベースのプロセッサは、TSMCのN2P（2nm）ノード上に構築されたメイン compute die、18 TB/s HBM4帯域幅、および1ラックあたり最大96チップ（Maia Pod）までサポートし、ドメイン内で12,000チップまでスケールアウト可能です。13.8 peta-OPS FP4と6.9 peta-OPS FP8のパフォーマンスを950W TDPで提供します。
出典: TechPowerUp News · 要約：HeadlinesBriefing