Лидеры ИИ считают, что машинный интеллект скоро превзойдет человеческий интеллект, но ускорение разработки без мер безопасности в конечном итоге может замедлить прогресс. Бывшие сотрудники Anthropic, Open AI и Google Deep Mind предупреждают, что эти компании не относятся к безопасности достаточно серьезно. Дональд Трамп отверг необходимость регулирования, заявив, что «сильный и умный» президент — единственный необходимый механизм контроля. Но 60 процентов американцев теперь поддерживают регулирование ИИ, согласно опросу Special Competitive Studies Project и Gallup, в то время как только 7 процентов ставят скорость выше безопасности.

Защитники безопасности ИИ указывают на крах ядерной индустрии США после аварии на Трайл-Майл-Айленд в 1979 году как на предостерегающий пример. Любая катастрофа, вызванная ИИ, может спровоцировать избыточную регуляторную реакцию, которая остановит будущий прогресс, ставя под угрозу технологическое ускорение, за которое выступают ускореники.

Ускореники утверждают, что ведущие компании тайно хотят регулирования, чтобы закрепить доминирующее положение текущих игроков, и что США должны выиграть гонку ИИ с Китаем. Но, как отмечает аналитик Дан Ван, Пекин может быть доволен тем, что позволяет США рисковать катастрофой на передовой ИИ, пока Китай применяет уроки более широко. Бывший исследователь Эндрю Стрейт называет текущее развитие ИИ «невероятно безрассудным, небрежным и опасным». Билл Гейтс утверждает, что ближайшие 12–18 месяцев проектных решений будут критически важны, его фонд тратит $1 млрд на продвижение полезных инициатив в области ИИ.