Googles Tensor Processing Unit (TPU) wurde erstmals 2015 intern eingesetzt als proprietärer KI-Beschleuniger für cloudbasierte Machine-Learning-Workloads in Rechenzentren. Im Gegensatz zu GPUs verwenden TPUs eine systolische Array-Architektur — ein 2D-Gitter von Multiplikatoren, das Berechnungsergebnisse direkt an die nächste Einheit weiterleitet, ohne zurück in den Speicher zu schreiben, wodurch Engpässe beim großskaligen Training großer Sprachmodelle (LLM) beseitigt werden. Dadurch sind TPUs energieeffizienter für Unternehmen wie Anthropic und Midjourney, die täglich Milliarden von KI-Anfragen bedienen.

Der Begriff TPU tauchte kürzlich in Verbrauchergeräten auf mit dem Google Tensor G6-Chip im Pixel 11-Smartphone, das behauptet, 50 Prozent mehr TPU-Rechenleistung zu bieten. Allerdings funktioniert diese auf dem Gerät integrierte TPU im Wesentlichen wie eine Neural Processing Unit (NPU), die Kameraverarbeitung und lokale KI-Aufgaben übernimmt. Google behauptet bis zu 3,5-mal schnellere KI-Verarbeitung bei bis zu 3,5-mal geringerem Energieverbrauch im Vergleich zu früheren Generationen.

GPUs bleiben vielseitige «Alleskönner»-Chips für Spiele, 3D-Rendering, KI-Training und Kryptowährungs-Mining. NPUs in modernen Smartphones, Macs und PCs übernehmen auf dem Gerät ausgeführte generative KI wie Bildbearbeitung und ChatGPT-Aufgaben. Der wesentliche Unterschied liegt in der Skalierung und dem Anwendungsfall: TPUs dominieren KI im Cloud-Maßstab, NPUs und geräteintegrierte TPUs dienen Verbrauchergeräten, während GPUs beide Welten dank größerer Flexibilität verbinden.

Wesentliche Entitäten: Unternehmen: Google, Anthropic, Midjourney, Apple, AMD

Häufig gestellte Fragen: Wie unterscheidet sich die systolische Array-Architektur einer TPU von der Speicherarchitektur einer GPU?

Die systolische Array-Architektur einer TPU leitet Daten direkt zwischen den Multiplikatoreinheiten in einem 2D-Gitter weiter, ohne zurück in den Speicher zu schreiben, während GPUs Daten zwischen Recheneinheiten und Hochbandbreitenspeicher zyklisch bewegen müssen, was bei skalierten Anwendungen Engpässe verursacht.