Intel ने Intel GPU D270 लॉन्च किया, एक डेटा सेंटर GPU जो इंफरेंस के लिए ऑप्टिमाइज्ड है, एजेंटिक AI युग के लिए। लंबे संदर्भ, बहु-चरण कार्यप्रवाह और उच्च-संघन सत्र संभालने के लिए डिज़ाइन किया गया है, जिससे उभरती हुई एजेंटिक AI कार्यभार कुशलता से संभाले जा सकते हैं।
480 GB LPDDR5X स्मृति के साथ, D270 ऊर्जा-कुशल, स्मृति-बाध्य इंफरेंस को प्राथमिकता देता है बिना उच्च बैंडविड्थ मेमोरी (HBM) की आवश्यकता के। इसमें 32 Xᵉ3P कोर और 256 XMX इंजन शामिल हैं ताकि प्रीफिल प्रोसेसिंग को तेज किया जा सके, जिससे लंबे संदर्भ और एजेंटिक एप्लिकेशन की लागत कम हो।
मानक PCIe 5.0 बुनियादी ढांचे पर बनाया गया, D270 एयर कूलिंग का उपयोग करता है 350W, तरल ठंडक रिट्रोफिट की आवश्यकता को समाप्त करता है। यह vLLM और PyTorch जैसे ओपन मॉडल और फ्रेमवर्क का समर्थन करता है, जिससे एंटरप्राइज AI, SaaS, GPUaaS और संप्रभु क्लाउड तैनाती के लिए उपयुक्त है।
की प्रमुख उपयोग मामले में एजेंटिक AI, लंबे संदर्भ RAG, एंटरप्राइज असिस्टेंट, कोडिंग टूल, डॉक्यूमेंट अंडरस्टैंडिंग, और multimodal inference शामिल हैं। D270 die क्षेत्र को ग्राफिक्स पाइपलाइनों से पुनः आवंटित करके मैट्रिक्स कंप्यूटिंग में स्थानांतरित करता है, जिससे इंफरेंस दक्षता बढ़ती है जबकि कम-बिट से FP64 कार्यभार तक सटीकता बनाए रखी जाती है।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित