Intel a enfin dévoilé à quoi ressembleront ses GPUs "Crescent Island" série D, introduisant un accélérateur IA dédié dans un facteur de forme de serveur après l'échec de projets précédents. La GPU série D récemment nommée comporte au total 32 cœurs Xe3P, 256 moteurs XMX, 32 Mo de cache L2 unifié et jusqu' 480 Go de mémoire LPDDR5X. Intel la note pour jusqu' 1.3 Peta FLOPS de performance FP8, avec prise en charge de formats allant de FP4 à FP64.
Un moteur multimédia avec quatre encodeurs et quatre décodeurs est également inclus, ce qui pourrait assister les charges de travail multimodales où la génération et la compréhension de vidéo sont indispensables. La carte est livrée avec une configuration mémoire de 160 Go par défaut, exclusive aux cartes graphiques "Crescent Island" de marque Intel, tandis que l'entreprise permet à ses ODM d'équiper la carte jusqu' 480 Go de mémoire LPDDR5X pour une capacité VRAM maximale. Ce qui est particulièrement intéressant dans le Xe3P, c'est son pipeline.
Les moteurs XMX ont été redessinés à partir du design systolique profond de quatre niveaux du Xe3 ordinaire à 16 niveaux de traitement dans le Xe3P. Des détails supplémentaires incluent la prise en charge du format FP4 aux côtés de FP8, ainsi que des fichiers de registres de 1 Mo par noyau et un cache L1 de 512 Ko par noyau. Au total, il y a 256 moteurs vectoriels et 256 des nouveaux moteurs XMX, chacun divisé en groupes de huit par cœur Xe3P.
De plus, dans le Xe3P, il n'y a pas d'éléments de traitement graphique pour sortir des images, le silicium étant conçu purement pour les charges de travail d'inférence IA nécessitant un long contexte et des tâches agissantes. L'accélérateur est conçu comme une carte PCIe 5.0 x16 de 350 W, refroidie par air, permettant de s'insérer dans l'infrastructure de serveurs conventionnelle sans avoir besoin de refroidissement liquide dédié. Intel profite également de sa base logicielle Xe commune et du support de cadres IA établis pour faciliter le déploiement.
L'échantillonnage client est en cours, mais prix, disponibilité générale et résultats de performance indépendants n'ont pas encore été divulgués. En fin de compte, le coût par token généré et la maturité du logiciel détermineront si la série D peut concurrencer les plateformes d'accélérateur IA établies. Intel imagine une seule carte alimentant des modèles jusqu' 300 milliards de paramètres, avec un cluster de 8 GPUs exécutant des modèles de milliards de paramètres sans problème.
Source: TechPowerUp News · Résumé par HeadlinesBriefing