يعتقد قادة الذكاء الاصطناعي أن الذكاء الآلي سيتجاوز قريباً الذكاء البشري، لكن تسريع التطوير دون ضمانات السلامة قد يؤدي في النهاية إلى إبطاء التقدم. يحذر موظفون سابقون في Anthropic و Open AI و Google Deep Mind من أن هذه الشركات لا تأخذ السلامة على محمل الجد بما فيه الكفاية. وقد رفض دونالد ترامب الحاجة إلى التنظيم، معلناً أن الرئيس "القوي والذكي" هو آلية التحكم الوحيدة المطلوبة. لكن 60 في المائة من الأمريكيين يدعمون الآن تنظيم الذكاء الاصطناعي، وفقاً لاستطلاع أجراه مشروع الدراسات التنافسية الخاصة و Gallup، بينما يعطي 7 في المائة فقط الأولوية للسرعة على السلامة.

يشير نشطاء سلامة الذكاء الاصطناعي إلى انهيار صناعة الطاقة النووية الأمريكية بعد حادث ثري مايل آيلاند في 1979 كقصة تحذيرية. أي كارثة ناجمة عن الذكاء الاصطناعي قد تثير رد فعل تنظيمي مفرط يوقف التقدم المستقبلي، مما يعرض التسارع التكنولوجي الذي يدعو إليه التسارعيون للخطر.

يجادل التسارعيون بأن الشركات الرائدة تريد سراً التنظيم لترسيخ الشركات الحالية، وأن الولايات المتحدة يجب أن تفوز بسباق الذكاء الاصطناعي مع الصين. لكن كما يشير المحلل دان وانغ، قد ترضى بكين بترك الولايات المتحدة تواجه الكارثة في الذكاء الاصطناعي المتقدم بينما تطبق الصين الدروس على نطاق أوسع. يصف الباحث السابق أندرو سترايت تطوير الذكاء الاصطناعي الحالي بأنه "متهور بشكل لا يصدق، وإهمالي، وخطير". يجادل بيل غيتس بأن الـ 12 إلى 18 شهراً القادمة من خيارات التصميم ستكون حاسمة، مع إنفاق مؤسسته مليار دولار لتعزيز مبادرات الذكاء الاصطناعي المفيدة.