गूगल का टेंसर प्रोसेसिंग यूनिट (TPU) पहली बार 2015 में आंतरिक रूप से तैनात किया गया था, एक स्वामित्व प्राप्त AI त्वरक के रूप में डेटा सेंटर्स में क्लाउड-आधारित मशीन लर्निंग वर्कलोड्स के लिए। GPU के विपरीत, TPUs सिस्टोलिक एरे आर्किटेक्चर का उपयोग करते हैं — एक 2D ग्रिड का गुणक, जो गणना आउटपुट को सीधे अगली इकाई में पास करता है, बिना मेमोरी में लिखे वापस, जिससे बड़े पैमाने पर बड़े भाषा मॉडल (LLM) प्रशिक्षण के लिए बॉटलनेक समाप्त हो जाते हैं। इससे TPUs अधिक ऊर्जा-कुशल बनते हैं कंपनियों जैसे Anthropic और Midjourney के लिए, जो प्रतिदिन बिलियनों AI अनुरोधों की सेवा करते हैं।

TPU शब्द हाल ही में उपभोक्ता उपकरणों में दिखाई दिया, Pixel 11 स्मार्टफोन के गूगल टेंसर G6 चिप में, जो दावा करता है 50 प्रतिशत अधिक TPU कंप्यूट। हालाँकि, इस उपकरण-आधारित TPU वास्तव में एक न्यूरल प्रोसेसिंग यूनिट (NPU) के रूप में कार्य करता है, कैमरा प्रोसेसिंग और स्थानीय AI कार्यों को संभालता है। गूगल दावा करता है पिछली पीढ़ियों की तुलना में AI प्रसंस्करण में तक 3.5 गुना तेज़ी और ऊर्जा उपयोग में तक 3.5 गुना कमी।

GPU अभी भी गेमिंग, 3D रेंडरिंग, AI प्रशिक्षण और क्रिप्टो माइनिंग के लिए बहुमुखी 'सभी कार्यों में निपुण' चिप्स हैं। आधुनिक स्मार्टफोन्स, मैक्स और पीसी में NPUs उपकरण पर जनरेटिव AI जैसे फोटो एडिटिंग और ChatGPT कार्यों को संभालते हैं। मुख्य अंतर पैमाने और उपयोग मामले में निहित हैं: TPUs क्लाउड-स्केल AI में हावी हैं, NPUs और उपकरण-आधारित TPUs उपभोक्ता उपकरणों की सेवा करते हैं, जबकि GPU दोनों दुनियाओं को व्यापक लचीलापन के साथ जोड़ते हैं।

मुख्य इकाइयाँ: कंपनियाँ: गूगल, Anthropic, Midjourney, एप्पल, AMD

अक्सर पूछे जाने वाले प्रश्न: TPU के सिस्टोलिक एरे आर्किटेक्चर की GPU की मेमोरी आर्किटेक्चर से कैसे भिन्नता है?

एक TPU का सिस्टोलिक एरे 2D ग्रिड में गुणक इकाइयों के बीच डेटा को सीधे पास करता है, बिना मेमोरी में लिखे वापस, जबकि GPU को कंप्यूट यूनिट्स और हाई-बैंडविड्थ मेमोरी के बीच डेटा को चक्रित करना पड़ता है, जिससे पैमाने पर बॉटलनेक उत्पन्न होते हैं।