Tensor Processing Unit (TPU) Google pertama kali digunakan secara internal pada tahun 2015 sebagai akselerator AI proprietor untuk beban kerja pembelajaran mesin berbasis cloud di pusat data. Berbeda dengan GPU, TPU menggunakan arsitektur array sistolik: sebuah jaringan 2D dari perkalian yang meneruskan hasil perhitungan langsung ke unit berikutnya tanpa menulis kembali ke memori, sehingga menghilangkan bottleneck untuk pelatihan model bahasa besar (LLM) dalam skala besar. Hal ini membuat TPU lebih efisien energi bagi perusahaan seperti Anthropic dan Midjourney yang melayani miliaran permintaan AI setiap hari.

Istilah TPU baru-baru ini muncul di perangkat konsumen dengan chip Google Tensor G6 di smartphone Pixel 11, yang mengklaim memiliki 50 persen lebih banyak kapasitas komputasi TPU. Namun, TPU yang terintegrasi dalam perangkat ini pada dasarnya berfungsi sebagai Neural Processing Unit (NPU), yang menangani pemrosesan kamera dan tugas AI lokal. Google mengklaim mampu memproses AI hingga 3,5 kali lebih cepat sambil menggunakan energi hingga 3,5 kali lebih sedikit dibandingkan generasi sebelumnya.

GPU tetap menjadi chip serbaguna «semua bidang» untuk permainan, rendering 3D, pelatihan AI, dan pertambangan kripto. NPU di smartphone modern, Mac, dan PC menangani AI generatif pada perangkat seperti pengeditan foto dan tugas ChatGPT. Perbedaan utama terletak pada skala dan kasus penggunaan: TPU mendominasi AI dalam skala cloud, NPU dan TPU yang terintegrasi dalam perangkat melayani perangkat konsumen, sementara GPU menjembatani kedua dunia dengan fleksibilitas yang lebih luas.

Entitas kunci: Perusahaan: Google, Anthropic, Midjourney, Apple, AMD