两位Princeton计算机科学家，《AI Snake Oil》的合著者，对Anthropic声称AI在十年内杀死所有人类的可能性超过10%的说法作出了回应。从OpenAI和Anthropic辞职的Jacob Coxon表示，两家公司都知道AI可能在本年代末导致人类灭绝，这一说法已被1.56亿人观看。Anthropic的AI安全负责人Evan Hubinger同意Coxon的评估，表示他们相信AI可能在稍长的时间范围内杀死所有人类，并且缺乏超级智能对齐的计划。主要风险涉及对水和电力系统等关键基础设施的破坏性网络攻击。以应对AI炒作而闻名的Sayash Kapoor和Arvind Narayanan认为，仅靠对齐是不够的，并提出了一种分层安全方法，包括控制（沙盒、监控）、下游防御（AI对抗AI）和韧性（恢复计划）。他们认为紧急行动可以降低风险，并将网络安全平衡转向防御者。