A Unidade de Processamento de Tensor (TPU) do Google foi inicialmente implantada internamente em 2015 como um acelerador de IA proprietário para cargas de trabalho de aprendizado de máquina baseadas em nuvem em data centers. Diferentemente das GPUs, as TPUs usam uma arquitetura de array sistólico: uma grade 2D de multiplicadores que passa os resultados de cálculo diretamente para a próxima unidade sem gravar de volta na memória, eliminando gargalos para o treinamento em larga escala de grandes modelos de linguagem (LLM). Isso torna as TPUs mais eficientes energeticamente para empresas como Anthropic e Midjourney que atendem bilhões de solicitações de IA diárias.

O termo TPU apareceu recentemente em dispositivos de consumo com o chip Google Tensor G6 do smartphone Pixel 11, alegando ter 50 por cento a mais de capacidade de computação de TPU. No entanto, essa TPU embarcada essencialmente funciona como uma Unidade de Processamento Neural (NPU), lidando com o processamento de câmera e tarefas de IA locais. O Google afirma até 3,5 vezes mais rápido no processamento de IA enquanto consome até 3,5 vezes menos energia em comparação com gerações anteriores.

As GPUs continuam sendo chips versáteis «faixa-tudo» para jogos, renderização 3D, treinamento de IA e mineração de criptomoedas. As NPUs em smartphones modernos, Macs e PCs lidam com IA generativa no dispositivo, como edição de fotos e tarefas do ChatGPT. As diferenças-chave residem na escala e no caso de uso: as TPUs dominam a IA em escala de nuvem, as NPUs e as TPUs embarcadas atendem a dispositivos de consumo, enquanto as GPUs conectam ambos os mundos com maior flexibilidade.

Entidades-chave: Empresas: Google, Anthropic, Midjourney, Apple, AMD

Perguntas frequentes: Como a arquitetura de array sistólico de uma TPU difere da arquitetura de memória de uma GPU?

A arquitetura de array sistólico de uma TPU passa os dados diretamente entre as unidades de multiplicação em uma grade 2D sem gravar de volta na memória, enquanto as GPUs devem ciclar os dados entre as unidades de computação e a memória de largura de banda elevada, criando gargalos em escala.