Líderes de IA acreditam que a inteligência artificial em breve superará a inteligência humana, mas acelerar o desenvolvimento sem salvaguardas de segurança pode, em última análise, retardar o progresso. Ex-funcionários da Anthropic, Open AI e Google Deep Mind alertam que essas empresas não levam a segurança a sério o suficiente. Donald Trump descartou a necessidade de regulamentação, declarando que um presidente "forte e inteligente" é o único mecanismo de controle necessário. Mas 60 por cento dos americanos agora apoiam a regulamentação de IA, segundo uma pesquisa do Special Competitive Studies Project e da Gallup, enquanto apenas 7 por cento priorizam velocidade em vez de segurança.

Defensores da segurança de IA apontam o colapso da indústria nuclear dos EUA após o acidente de Three Mile Island em 1979 como um conto de advertência. Qualquer desastre induzido por IA poderia desencadear uma reação regulatória excessiva que paralisaria o progresso futuro, colocando em risco a aceleração tecnológica que os aceleraçãoistas defendem.

Aceleraçãoistas argumentam que as empresas líderes secretamente querem regulamentação para consolidar os atuais dominantes, e que os EUA devem vencer a corrida de IA com a China. Mas, como observa o analista Dan Wang, Pequim pode estar contente em deixar os EUA cortejarem o desastre na IA de fronteira enquanto a China aplica as lições de forma mais ampla. O ex-pesquisador Andrew Strait chama o desenvolvimento atual de IA de "incrivelmente imprudente, negligente e perigoso". Bill Gates argumenta que os próximos 12 a 18 meses de escolhas de design serão críticos, com sua fundação gastando US$ 1 bilhão para promover iniciativas benéficas de IA.