أطلقت إنفيديا Intel GPU D270، GPU بيانات مركزية مُحسَّنة للاستنتاج، لعصر الذكاء الاصطناعي الوكيل. مصممة لمعالجة السياقات الطويلة، عمليات العمل متعددة الخطوات، والج会话 ذات الكثافة العالية بكفاءة.
بفضل 480 جيجابايت LPDDR5X، تركز D270 على الاستنتاج الفعال من حيث الطاقة والمحدود بالذاكرة، دون الحاجة إلى ذاكرة عالية带宽 (HBM). تستخدم 32 نواة Xᵉ3P و 256 محرك XMX لتسريع معالجة المعالجة المسبقة، مما يقلل التكاليف للتطبيقات ذات السياق الطويل والوكيل.
بنية PCIe 5.0 القياسية، تستخدم D270 تبريد الهواء بقوة 350 واط، eliminating the need for liquid cooling retrofits. تدعم النماذج والإطارات مفتوحة المصدر مثل vLLM و PyTorch، مما يجعلها مناسبة لنشر الذكاء الاصطناعي-enterprise، SaaS، GPUaaS، وسحابات سيادية.
تشمل حالات الاستخدام الرئيسية الذكاء الاصطناعي الوكيل، RAG السياقي الطويل، المساعدات المؤسسية، أدوات البرمجة، فهم المستندات، والاستنتاج متعدد الوسائط. تعيد D270 تخصيص مساحة die من أنابيب الرسومات إلى حساب المصفوفات، مما يعزز كفاءة الاستنتاج مع الحفاظ على الدقة من الدقة المنخفضة إلى أحمال عمل FP64.
المصدر: Hacker News · لخّصه HeadlinesBriefing