चीनी AI प्रयोगशालाएँ घरेलू AI एक्सेलेरेटर के आदेश बढ़ा रही हैं, और एक अग्रणी AI प्रयोगशाला, डीपसीक, ने reportedly 160,000 हुआवेई एस्केंड 950DT चिप्स के लिए आर्डर दिया है। पिछले साल के अंत में, हुआवेई ने खुलासा किया कि कंपनी घरेलू AI मांग को पूरा करने के लिए चिप्स और रैक-स्केल समाधानों की एक श्रृंखला तैयार कर रही है, और अब हम बड़े आदेशों के materialize होते देख रहे हैं।

संदर्भ के लिए, हुआवेई एस्केंड 950DT AI एक्सेलेरेटर की मेमोरी क्षमता 144 जीबी है, जो हुआवेई की अपनी HBM मेमोरी डिज़ाइन पर आधारित है। इस इन-हाउस समाधान से लगभग 4 टीबी/सेकंड की बैंडविड्थ मिलती है, जो हुआवेई के दृष्टिकोण के साथ पूरी तरह से मेल खाती है। इस चिप से लगभग 1 पेटाFLOP FP8 शिखर गणना या लगभग 2 पेटाFLOPS FP4 गणना प्राप्त की जा सकती है।

डीपसीक, चीन की अग्रणी AI प्रयोगशालाओं में से एक, बड़े पैमाने पर inferencing संचालन के लिए हुआवेई के एस्केंड 950DT चिप्स का उपयोग करेगा और इन्हें आंतरिक मंगोलिया में स्थित एकल डेटा सेंटर में तैनात करेगा। 전체 시스템은 FP8 में 160 एक्साFLOPS की शिखर क्षमता प्रदान करेगा, या FP4 में लगभग 320 एक्साFLOPS। प्रणाली में कुल HBM मेमोरी लगभग 23 पीबी होगी, जिसका अर्थ है कि बड़े पैमाने पर inferencing संचालन हजारों ग्राहकों को 동시에 सेवा दे सकेंगे बिना किसी समस्या के।

मुख्य इकाइयाँ: कंपनियाँ: हुआवेई, डीपसीक, TechPowerUp | स्थान: आंतरिक मंगोलिया

अक्सर पूछे जाने वाले प्रश्न: हुआवेई एस्केंड 950DT एक्सेलेरेटर की मुख्य विशेषताएँ क्या हैं?

हुआवेई एस्केंड 950DT में 144 जीबी की इन-हाउस HBM मेमोरी होती है, जिसकी बैंडविड्थ लगभग 4 टीबी/सेकंड होती है, जो प्रति चिप लगभग 1 पेटाFLOP FP8 शिखर गणना या 2 पेटाFLOPS FP4 गणना प्रदान करती है।