Los líderes de IA creen que la inteligencia artificial pronto superará a la inteligencia humana, pero acelerar el desarrollo sin salvaguardas de seguridad puede, en última instancia, frenar el progreso. Antiguos empleados de Anthropic, Open AI y Google Deep Mind advierten que estas empresas no se toman la seguridad lo suficientemente en serio. Donald Trump ha descartado la necesidad de regulación, declarando que un presidente "fuerte e inteligente" es el único mecanismo de control necesario. Pero el 60 por ciento de los estadounidenses ahora apoya la regulación de la IA, según una encuesta del Special Competitive Studies Project y Gallup, mientras que solo el 7 por ciento prioriza la velocidad sobre la seguridad.

Los defensores de la seguridad de la IA señalan el colapso de la industria nuclear estadounidense tras el accidente de Three Mile Island en 1979 como una historia de advertencia. Cualquier desastre inducido por IA podría desencadenar una reacción regulatoria excesiva que detenga el progreso futuro, poniendo en peligro la aceleración tecnológica que defienden los aceleracionistas.

Los aceleracionistas argumentan que las empresas líderes secretamente quieren regulación para afianzar a los actuales dominantes, y que EE. UU. debe ganar la carrera de la IA con China. Pero como señala el analista Dan Wang, Pekín puede estar contento dejando que EE. UU. corte el desastre en la IA de frontera mientras China aplica las lecciones de forma más amplia. El ex investigador Andrew Strait califica el desarrollo actual de IA de "increíblemente imprudente, negligente y peligroso". Bill Gates argumenta que los próximos 12 a 18 meses de decisiones de diseño serán críticos, con su fundación gastando 1000 millones de dólares para promover iniciativas de IA beneficiosas.