Тензорный процессорный блок (TPU) Google был впервые развернут внутренне в 2015 году как проприетарный ускоритель ИИ для облачных рабочих нагрузок машинного обучения в центрах обработки данных. В отличие от GPU, TPU используют систолическую массивовую архитектуру — 2D-сетку умножителей, которая передает результаты вычислений непосредственно следующему блоку без записи обратно в память, устраняя узкие места при масштабном обучении больших языковых моделей (LLM). Это делает TPU более энергоэффективными для компаний вроде Anthropic и Midjourney, обслуживающих миллиарды запросов ИИ ежедневно.

Термин TPU недавно появился в потребительских устройствах с чипом Google Tensor G6 в смартфоне Pixel 11, заявляя о 50 процентах больше вычислительной мощности TPU. Однако эта встроенная TPU фактически функционирует как нейропроцессорный блок (NPU), обрабатывая обработку камеры и локальные задачи ИИ. Google заявляет о до 3,5 раз более быстрой обработке ИИ при потреблении до 3,5 раз меньше энергии по сравнению с предыдущими поколениями.

GPU остаются универсальными чипами «все в одном» для игр, 3D-рендеринга, обучения ИИ и майнинга криптовалют. NPU в современных смартфонах, Mac и ПК обрабатывают устройственный генеративный ИИ, например, редактирование фотографий и задачи ChatGPT. Ключевые различия заключаются в масштабе и сценарии использования: TPU доминируют в облачном масштабе ИИ, NPU и встроенные TPU обслуживают потребительские устройства, а GPU соединяют оба мира благодаря большей гибкости.

Ключевые сущности: Компании: Google, Anthropic, Midjourney, Apple, AMD

Часто задаваемые вопросы: Чем отличается систолическая массиковая архитектура TPU от архитектуры памяти GPU?

Архитектура систолического массива TPU передает данные непосредственно между блоками умножения в 2D-сетке без записи обратно в память, тогда как GPU должны циркулировать данные между вычислительными блоками и высокопропускной памятью, создавая узкие места при масштабировании.