AI प्रमुख मानते हैं कि मशीन इंटेलिजेंस जल्द ही मानव इंटेलिजेंस को पार कर जाएगी, लेकिन सुरक्षा उपायों के बिना विकास को तेज़ करना अंततः प्रगति को धीमा कर सकता है। Anthropic, Open AI और Google Deep Mind के पूर्व कर्मचारी चेतावनी देते हैं कि ये कंपनियाँ सुरक्षा को पर्याप्त गंभीरता से नहीं लेती हैं। डोनाल्ड ट्रम्प ने विनियमन की आवश्यकता को खारिज कर दिया है, यह घोषणा करते हुए कि एक "मजबूत और स्मार्ट" राष्ट्रपति ही एकमात्र आवश्यक नियंत्रण तंत्र है। लेकिन स्पेशल कॉम्पिटिटिव स्टडीज़ प्रोजेक्ट और Gallup के एक सर्वेक्षण के अनुसार, अब 60 प्रतिशत अमेरिकी AI विनियमन का समर्थन करते हैं, जबकि केवल 7 प्रतिशत सुरक्षा पर गति को प्राथमिकता देते हैं।

AI सुरक्षा प्रचारक 1979 में थ्री माइल आइलैंड दुर्घटना के बाद अमेरिकी परमाणु उद्योग के पतन को एक चेतावनी भरी कहानी के रूप में इंगित करते हैं। कोई भी AI-प्रेरित आपदा एक नियामक अतिप्रतिक्रिया को ट्रिगर कर सकती है जो भविष्य की प्रगति को रोक देती है, जिससे उस तकनीकी त्वरण को खतरा होता है जिसका त्वरणवादी समर्थन करते हैं।

त्वरणवादी तर्क देते हैं कि अग्रणी कंपनियाँ गुप्त रूप से मौजूदा दिग्गजों को मजबूत करने के लिए विनियमन चाहती हैं, और यह कि अमेरिका को चीन के साथ AI दौड़ जीतनी चाहिए। लेकिन जैसा कि विश्लेषक डैन वांग नोट करते हैं, बीजिंग अमेरिका को फ्रंटियर AI पर आपदा को आमंत्रित करते हुए देखकर संतुष्ट हो सकता है जबकि चीन सबक को अधिक व्यापक रूप से लागू करता है। पूर्व शोधकर्ता एंड्रयू स्ट्रेट वर्तमान AI विकास को "अविश्वसनीय रूप से लापरवाह, उपेक्षापूर्ण और खतरनाक" कहते हैं। बिल गेट्स का तर्क है कि अगले 12 से 18 महीने के डिज़ाइन विकल्प महत्वपूर्ण होंगे, उनकी नींव $1 बिलियन खर्च कर लाभकारी AI पहलों को बढ़ावा दे रही है।