HeadlinesBriefing HeadlinesBriefing.com

Intel GPU D270: GPU de centro de datos optimizada para inferencia

Hacker News •
×

Intel presenta el Intel GPU D270, una GPU de centro de datos optimizada para inferencia para la era del IA agente. Diseñada para manejar largos contextos, flujos de trabajo de varios pasos y sesiones de alta concurrencia, la D270 admite de manera eficiente cargas de trabajo de IA agente emergentes.

Con hasta 480 GB LPDDR5X memoria, la D270 prioriza inferencia eficiente en términos de energía y limitada por memoria, sin necesidad de memoria de alto ancho de banda (HBM). Utiliza 32 núcleos Xᵉ3P y 256 motores XMX para acelerar el procesamiento de prefilling, reduciendo costos para aplicaciones de largo contexto y agente.

Construida sobre infraestructura PCIe 5.0 estándar, la D270 utiliza refrigeración por aire a 350W, eliminando la necesidad de retrofits de refrigeración líquida. Soporta modelos y marcos abiertos como vLLM y PyTorch, lo que la hace adecuada para despliegues de IA empresarial, SaaS, GPUaaS y nubes soberanas.

Casos de uso clave incluyen IA agente, RAG de largo contexto, asistentes empresariales, herramientas de codificación, comprensión de documentos e inferencia multimodal. La D270 reasigna el área del die desde tuberías gráficas a cálculo de matriz, mejorando la eficiencia de inferencia manteniendo precisión desde baja precisión hasta cargas de trabajo FP64.

Fuente: Hacker News · Resumido por HeadlinesBriefing