Чип Napier от Tensordyne разработан для ускорения инференса ИИ. С примерно 2020 года ИИ в основном сосредоточился на обучении более крупных и передовых моделей. Большие языковые модели (LLM) выросли с миллионов параметров до триллионов. Это оказалось эффективно: самая большая версия GPT-3 от Open AI, выпущенная в 2020 году, правильно ответила только на 43,9% вопросов популярного бенчмарка на знания и рассуждение. Всего через четыре года GPT-4o набрал 88,7% на том же экзамене, фактически соответствуя показателям человеческих экспертов. Передовые лаборатории ИИ по-прежнему обучают все более крупные модели, но это обучение несколько отступило на второй план в обсуждении ИИ. В 2026 году инференс—использование обученных моделей для создания кода, написания эссе или изображений нас в виде эльфов—вышел на первый план.

“Это как обучение — вчерашние новости”, — говорит Мэтт Кимбалл, главный аналитик центров обработки данных в Moor Insights & Strategy. “Все, о чем хочет говорить любой директор по информационным технологиям, — это инференс”. Генеральный директор Nvidia Джэньсэн Хуан, выступая на конференции GTC 2026 компании, назвал этот изменение «точкой поворота инференса».

Часть того, что вызвало этот сдвиг, очень просто: LLM становятся полезными, поэтому люди ими пользуются. Кроме того, многие модели на сегодняшнем рынке являются моделями рассуждения. В ответ на запрос пользователя они запускают инференс не один, а несколько раз, переписывая себя в процессе, названном цепочкой мыслей. Модели рассуждения генерируют более длинные выходные данные, и модели с высоким уровнем рассуждения могут производить до 20 раз больше текста, чем модели с низким или нулевым уровнем.

Взрыв спроса на инференс привел к неожиданным альянсам среди технологических гигантов. Open AI и Amazon разместили чипы размером с обеденную тарелку, разработанные Cerebras, несмотря на то, что у Amazon есть собственные чипы Trainium. Nvidia купила ключевой талент и интеллектуальную собственность у стартапа по инференсу ИИ Groq в спорной сделке на 20 млрд долларов США. А Anthropic платит конкуренту LLM Space XAI более миллиарда долларов в месяц за аренду резервных вычислительных мощностей.

Ключевые сущности: Компании: Tensordyne, Open AI, Nvidia, Amazon Web Services, Cerebras, Moor Insights & Strategy, Space XAI, Anthropic, Groq | Люди: Мэтт Кимбалл, Джэньсэн Хуан