HeadlinesBriefing HeadlinesBriefing.com

Intel GPU D270: GPU de centro de dados otimizada para inferência

Hacker News •
×

Intel apresenta o Intel GPU D270, uma GPU de centro de dados otimizada para inferência na era da IA agente. Projetada para lidar com longos contextos, fluxos de trabalho de vários passos e sessões de alta concorrência, a D270 dá suporte eficiente a cargas de trabalho de IA agente emergentes.

Com até 480 GB LPDDR5X memória, a D270 prioriza inferência eficiente em termos de memória, sem exigir memória de alto bandwidth (HBM). Ela utiliza 32 núcleos Xᵉ3P e 256 motores XMX para acelerar o processamento de prefilling, reduzindo custos para aplicativos de longo contexto e agente.

Construída sobre infraestrutura PCIe 5.0 padrão, a D270 usa resfriamento a ar a 350W, eliminando a necessidade de retrofit de resfriamento líquido. Suporta modelos e frameworks abertos como vLLM e PyTorch, tornando-a adequada para implantações de IA empresarial, SaaS, GPUaaS e clouds soberanos.

Casos de uso principais incluem IA agente, RAG de longo contexto, assistentes empresariais, ferramentas de codificação, compreensão de documentos e inferência multimodal. A D270 realoca a área do die desde pipelines gráficos para cálculo de matriz, melhorando a eficiência da inferência mantendo precisão de baixa bit a FP64 workloads.

Fonte: Hacker News · Resumido por HeadlinesBriefing