Два компьютерных ученых из Princeton, соавторы книги «AI Snake Oil», ответили на заявление Anthropic о том, что существует >10% вероятности того, что ИИ может убить всех людей в течение десяти лет. Jacob Coxon, который уволился из OpenAI и Anthropic, заявил, что обе компании знали, что ИИ может вызвать вымирание человечества к концу десятилетия, — это утверждение увидели 156 миллионов человек. Evan Hubinger, руководитель по безопасности ИИ в Anthropic, согласился с оценкой Coxon, сказав, что они считают, что ИИ может убить всех людей в несколько более долгие сроки, и у них нет плана по выравниванию суперинтеллекта. Основные риски связаны с разрушительными кибератаками на критическую инфраструктуру, такую как системы водоснабжения и электроснабжения.

Sayash Kapoor и Arvind Narayanan, известные своим противодействием хайпу вокруг ИИ, утверждают, что одного выравнивания недостаточно, и предлагают многоуровневый подход к безопасности, включающий Контроль (песочница, мониторинг), Нисходящую защиту (ИИ защищается от ИИ) и Устойчивость (планы восстановления). Они считают, что срочные действия могут снизить риски и сместить баланс кибербезопасности в сторону защитников.