تم نشر وحدة معالجة التنسور (TPU) الخاصة بجوجل داخليًا لأول مرة في 2015 كمُسرِّع ذكاء اصطناعي مملوك لأحمال عمل تعلم الآلة المستندة إلى السحابة في مراكز البيانات. على عكس وحدات معالجة الرسومات (GPU)، تستخدم وحدات TPU بنية المصفوفة الانقباضية — شبكة 2D من الضاربات التي تنقل مخرجات الحساب مباشرة إلى الوحدة التالية دون كتابة العودة إلى الذاكرة، مما يزيل الاختناقات لتدريب نماذج اللغة الكبيرة (LLM) الضخمة. هذا يجعل وحدات TPU أكثر كفاءة في استهلاك الطاقة للشركات مثل أنثروبيك وميدجورني التي تخدم مليارات طلبات الذكاء الاصطناعي اليومية.

ظهر مصطلح TPU مؤخرًا في الأجهزة الاستهلاكية مع شريحة جوجل تنسور G6 في هاتف بيكسل 11 الذكي، مدعية امتلاكها 50 بالمائة أكثر من قدرة الحوسبة لوحدة TPU. ومع ذلك، فإن هذه TPU المدمجة في الجهاز تعمل في جوهرها كوحدة معالجة عصبية (NPU)، حيث تتعامل مع معالجة الكاميرا ومهام الذكاء الاصطناعي المحلية. تزعم جوجل معالجة ذكاء اصطناعي أسرع بما يصل إلى 3.5 مرة واستهلاك طاقة أقل بما يصل إلى 3.5 مرة مقارنة بالأجيال السابقة.

لا تزال وحدات معالجة الرسومات (GPU) تمثل شرائح متعددة الاستخدامات «الكل في واحد» للألعاب، وعرض ثلاثي الأبعاد، وتدريب الذكاء الاصطناعي، وتعدين العملات المشفرة. تتعامل وحدات NPU في الهواتف الذكية الحديثة وماك وأجهزة الكمبيوتر الشخصية مع الذكاء الاصطناعي التوليدي على الجهاز مثل تحرير الصور ومهام ChatGPT. تكمن الاختلافات الرئيسية في الحجم وحالة الاستخدام: تهيمن وحدات TPU على الذكاء الاصطناعي على نطاق السحابة، بينما تخدم وحدات NPU وTPU المدمجة في الأجهزة الأجهزة الاستهلاكية، وتربط وحدات GPU بين العالمين بمرونة أوسع.

الكائنات الرئيسية: الشركات: جوجل، أنثروبيك، ميدجورني، أبل، AMD

الأسئلة الشائعة: كيف يختلف بنية المصفوفة الانقباضية لوحدة TPU عن بنية الذاكرة لوحدة GPU؟

تنقل بنية المصفوفة الانقباضية لوحدة TPU البيانات مباشرة بين وحدات الضرب في شبكة 2D دون كتابة العودة إلى الذاكرة، بينما يجب على وحدات GPU تدوير البيانات بين وحدات الحوسبة والذاكرة ذات النطاق الترددي العالي، مما يخلق اختناقات على نطاق واسع.