Pemimpin AI percaya bahwa kecerdasan mesin akan segera melampaui kecerdasan manusia, tetapi mempercepat pengembangan tanpa pengaman keamanan pada akhirnya dapat melambatkan progres. Mantan karyawan Anthropic, Open AI, dan Google Deep Mind memperingatkan bahwa perusahaan-perusahaan ini tidak mengutamakan keamanan dengan cukup serius. Donald Trump mengabaikan kebutuhan regulasi, menyatakan bahwa presiden yang "kuat dan cerdas" adalah satu-satunya mekanisme kontrol yang dibutuhkan. Namun 60 persen Amerika kini mendukung regulasi AI, menurut survei oleh Special Competitive Studies Project dan Gallup, sementara hanya 7 persen yang memprioritaskan kecepatan di atas keamanan.

Penganut keamanan AI menunjuk ke runtuhnya industri nuklir AS setelah kecelakaan Three Mile Island pada 1979 sebagai kisah peringatan. Bencana yang disebabkan AI apapun bisa memicu reaksi regulasi berlebihan yang menghentikan progres masa depan, mengancam percepatan teknologi yang diadvokasi oleh percepatan.

Para percepatan berpendapat bahwa perusahaan terkemuka diam-diam menginginkan regulasi untuk mengukuhkan pemain yang sudah ada, dan AS harus memenangkan balapan AI dengan China. Namun seperti yang dicatat analis Dan Wang, Beijing mungkin puas membiarkan AS mengundang bencana di AI perbatasan sementara China menerapkan pelajaran secara lebih luas. Mantan peneliti Andrew Strait menyebut pengembangan AI saat ini "sangat sembrono, lengah, dan berbahaya". Bill Gates berargumen bahwa 12 hingga 18 bulan ke depan dari pilihan desain akan menjadi kritis, dengan yayasannya mengeluarkan $1 miliar untuk mempromosikan inisiatif AI yang bermanfaat.