谷歌的张量处理单元（TPU）首次于2015年在内部部署，作为专有AI加速器用于数据中心的云机器学习工作负载。与GPU不同，TPU使用收缩阵列架构——一个2D网格的乘法器，直接将计算结果传递给下一个单元，而无需写回内存，从而消除了大规模大语言模型（LLM）训练中的瓶颈。这使得TPU在像Anthropic和Midjourney这样的公司服务数十亿次日常AI请求时更具能效优势。

术语TPU最近出现在消费设备中，如Pixel 11智能手机的谷歌Tensor G6芯片，宣称具有50%更多的TPU计算能力。然而，这种设备级TPU本质上充当神经处理单元（NPU），处理相机处理和本地AI任务。谷歌声称相比前代产品，AI处理速度提升最高可达3.5倍，同时能耗降低最高可达3.5倍。

GPU仍然是游戏、3D渲染、AI训练和加密货币挖矿的通用多面手芯片。现代智能手机、Mac和PC中的NPU负责处理设备端生成式AI任务，如照片编辑和ChatGPT操作。关键区别在于规模和使用场景：TPU在云端AI规模中占主导，NPU和设备级TPU服务于消费设备，而GPU则凭借更广泛的灵活性连接两者。

关键实体：公司：谷歌、Anthropic、Midjourney、苹果、AMD

FAQ：TPU的收缩阵列架构与GPU的内存架构有何不同？

TPU的收缩阵列在2D网格中的乘法器单元之间直接传递数据，而无需写回内存；而GPU必须在计算单元和高带宽内存之间循环传输数据，在规模扩大时会产生瓶颈。