HeadlinesBriefing favicon HeadlinesBriefing.com

क्वालकॉम स्नैपड्रैगन 8 एलीट जेन 6 प्रो: NPU में 50% अधिक साझा मेमोरी

GSMArena •
×

क्वालकॉम अपने आगामी स्नैपड्रैगन 8 एलीट जेन 6 प्रो के हेक्सागन NPU में सुधार की बात कर रहा है, जो 22 सितंबर को स्नैपड्रैगन शिखर सम्मेलन से पहले है। नया NPU एजेंटिक AI के लिए बनाया गया है, जिसमें ट्रांसफॉर्मर-केंद्रित एलिमेंट एक्सेलेरेटर और 50% बड़ा साझा मेमोरी है, जो अक्सर एक्सेस किए जाने वाले मॉडल डेटा को NPU के पास रखता है। इस डिज़ाइन से मेमोरी बॉटलनेक कम होते हैं, जिससे एजेंट लंबे संदर्भ, अधिक टूल्स और समानांतर कार्यों को संभालते हुए भी प्रतिक्रियाशील रहते हैं। एलिमेंट एक्सेलेरेटर आधुनिक जनरेटिव और एजेंटिक AI को चलाने वाले ट्रांसफॉर्मर वर्कलोड्स के लिए विशेष रूप से बनाया गया है। स्केलर, वेक्टर और मैट्रिक्स एक्सटेंशन के साथ संयोजित, यह बड़े मॉडल के लिए महत्वपूर्ण संचालनों को तेज करता है, जिससे एजेंट तेजी से प्रतिक्रिया देते हैं और अधिक कुशलता से तर्क करते हैं, बिना मोबाइल पावर दक्षता पर समझौता किए। क्वालकॉम का दावा है कि INT4 मॉडल के लिए प्रीफिल में तक 50% तेजी आई है। यह NPU मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) मॉडल के लिए उपयुक्त है, जो प्रति टोकन केवल पैरामीटरों के एक अंश को सक्रिय करता है। कुल मिलाकर, नया हेक्सागन NPU हमेशा चलने वाले AI, लंबे संदर्भ तर्क, मल्टीमॉडल मॉडल, समानांतर एजेंट्स और कम विलंबता वाले कार्य लूप्स के लिए डिज़ाइन किया गया है।