Intel présente le Intel GPU D270, une GPU de centre de données optimisé pour l'inférence à l'ère de l'IA agente. Conçue pour gérer les longs contextes, les flux de travail multistep et les sessions à haute concurrence, la D270 prend en charge efficacement les charges de travail d'IA agente émergentes.
Avec jusqu'à 480 Go LPDDR5X, la D270 privilégie l'inférence efficace en termes de mémoire sans avoir besoin de mémoire à haut débit (HBM). Elle exploite 32 cœurs Xᵉ3P et 256 moteurs XMX pour accélérer le traitement du prefilling, réduisant les coûts pour les applications de long contexte et agente.
Basée sur l'infrastructure PCIe 5.0 standard, la D270 utilise un refroidissement par air à 350W, éliminant le besoin de retrofit de refroidissement liquide. Elle prend en charge les modèles et cadres ouverts comme vLLM et PyTorch, la rendant adaptée aux déploiements d'IA d'entreprise, SaaS, GPUaaS et clouds souverains.
Les cas d'utilisation clés incluent l'IA agente, le RAG à long contexte, les assistants d'entreprise, les outils de codage, la compréhension de documents et l'inférence multimodale. La D270 réalloue la zone du die depuis les pipelines graphiques vers le calcul de matrice, améliorant l'efficacité de l'inférence tout en maintenant la précision de la faible précision aux charges de travail FP64.
Source: Hacker News · Résumé par HeadlinesBriefing