AI领袖认为机器智能将很快超越人类智能，但如果在缺乏安全保障的情况下加速开发，最终可能会减缓进步。Anthropic、Open AI 和 Google Deep Mind 的前员工警告称，这些公司对安全问题的重视程度远远不够。唐纳德·特朗普 对监管的必要性不屑一顾，宣称“强有力且聪明”的总统是唯一需要的控制机制。但根据特别竞争研究项目和 Gallup 的一项民调，60% 的美国人现在支持 AI 监管，而只有 7% 优先考虑速度而非安全。

AI 安全倡导者以 1979年 三哩岛 核事故后美国核工业的崩溃为警示。任何 AI 引发的灾难都可能引发监管过度反应，从而停止未来的进步，危及加速主义者所推崇的技术加速。

加速主义者辩称，领先公司私下里希望通过监管来巩固现有地位，且美国必须赢得与中国的 AI 竞赛。但正如分析师 Dan Wang 所指出的，北京可能乐于让美国在前沿 AI 领域冒险试错，而中国则更广泛地应用经验教训。前研究员 Andrew Strait 称当前的 AI 开发“极其鲁莽、疏忽且危险”。Bill Gates 认为，未来 12 到 18 个月 的设计选择将至关重要，其基金会已投入 10亿美元 以推动有益的 AI 计划。