グーグルのテンソル処理ユニット（TPU）は、2015年に初めて社内で導入され、データセンターにおけるクラウドベースの機械学習ワークロードのための独自のAIアクセラレータとして機能しました。GPUとは異なり、TPUはシストリックアレイアーキテクチャを使用します — 計算結果をメモリに書き戻すことなく直接次のユニットに渡す2Dグリッドの乗算器 — これにより、大規模な大規模言語モデル（LLM）のトレーニングにおけるボトルネックが解消されます。これにより、TPUはAnthropicやMidjourneyなどの企業が毎日数十億のAIリクエストを処理する際に、よりエネルギー効率が良くなります。

TPUという用語は最近、Pixel 11スマートフォンのグーグルテンソルG6チップに登場し、50％多いTPU演算能力を主張しています。ただし、このデバイス内蔵TPUは本質的にニューラル処理ユニット（NPU）として機能し、カメラ処理やデバイス内のAIタスクを処理します。グーグルは、前世代と比較してAI処理速度が最大3.5倍速く、エネルギー消費が最大3.5倍少ないと主張しています。

GPUは依然としてゲーム、3Dレンダリング、AIトレーニング、暗号通貨マイニングのための汎用「何でも屋」チップです。現代のスマートフォン、Mac、PCのNPUは、デバイス上の生成AI（フォト編集やChatGPTタスクなど）を処理します。主な違いは規模と使用ケースにあります：TPUはクラウド規模のAIを支配し、NPUおよびデバイス内蔵TPUは消費者デバイスに対応し、GPUはより広い柔軟性で両世界をつなぎます。

主要なエンティティ: 企業: グーグル、Anthropic、Midjourney、アップル、AMD

よくある質問: TPUのシストリックアレイアーキテクチャは、GPUのメモリアーキテクチャとどのように異なりますか？

TPUのシストリックアレイは、2Dグリッド内の乗算ユニット間でデータをメモリに書き戻すことなく直接渡します。一方、GPUは演算ユニットと高帯域幅メモリの間でデータを循環させなければならず、これがスケールアップ時にボトルネックを生じさせます。