Какова цена апокалипсиса? Руководители крупнейших ИИ-компаний хотят замедлить развитие, чтобы избежать "пограничных моделей", способных нанести огромный ущерб. К счастью, это цель, которую должны поддержать и их инвесторы. Глава Anthropic Dario Amodei в выходные предположил, что прогресс ИИ должен быть "размеренным", а правительства должны координировать стандарты, где это возможно.

Даже без регуляторного принуждения такие звёзды ИИ, как Anthropic, Open AI и Space X, должны найти финансовое обоснование для сдерживания темпов прогресса. Одним из преимуществ замедления стало бы сокращение огромных сумм денег, щедро расходуемых на обучение новых моделей. Например, Open AI планирует потратить 750 млрд долларов на вычислительные мощности к 2030 году. Каждый год отсрочки снижает текущую стоимость этих затрат почти на 100 млрд долларов, подсчитал Lex.

Правда, один из рисков "размеренности" в том, что отстающие получат шанс догнать и отхватить долю рынка. Модели с открытыми весами отстают от переднего края всего на несколько месяцев. Китай — грозный конкурент, хотя Amodei предполагает, что удержание передовых ИИ-чипов вне его досягаемости может выиграть три-пять лет. Но на существующих моделях можно много заработать, и замедление создаст дополнительный стимул для этого. Space X в своём IPO указала рынок "корпоративных приложений" в 22,7 трлн долларов. Anthropic может намекать на рынок стоимостью 30 трлн долларов. Deutsche Bank оценивает, что если к 2031 году 60 процентов работников умственного труда будут использовать приложения, связанные с ИИ, они будут эквивалентны пулу доходов в 400 млрд долларов.

У любого инвестора в Anthropic — включая Black Rock, сингапурскую GIC, Coatue и Sequoia Capital — должна быть ещё одна насущная причина поддержать скоординированные усилия по размеренности. В конце концов, вымирание человечества, которое, предположительно, включит всех их клиентов, — это риск, для которого не существует известного хеджа.

Ключевые субъекты: Компании: Anthropic, Open AI, Space X, Deutsche Bank, Black Rock, GIC, Coatue, Sequoia Capital, Salesforce | Люди: Dario Amodei, Sam Altman, Roula Khalaf | Места: Washington, China, Singapore