एंथ्रोपिक के सीईओ डैरियो अमोडेयी ने AI विकास को धीमा करने का आह्वान किया है, "We Must Pace the Frontier" शीर्षक वाले अपने निबंध में "गंभीर" जोखिमों की चेतावनी दी है। उन्होंने स्वतंत्र निगरानी, उद्योग-व्यापी नियमन और वैश्विक निगरानी वाले तीन बिंदुओं की योजना प्रस्तावित की है। ओपन एआई के सैम अल्टमैन और x AI के एलोन मस्क जैसे प्रतिद्वंद्वियों ने समर्थन व्यक्त किया है, जिसमें अल्टमैन ने स्वतंत्र मूल्यांककों को "एक शानदार विचार" कहा और मस्क ने अमोडेयी के "सही" होने पर सहमति जताई है। एंथ्रोपिक के पूर्व शोधकर्ता जैक कॉक्सन ने बीबीसी को बताया कि कर्मचारी दो साल के भीतर मानव विलोपन की संभावना को लेकर "वास्तव में डरे हुए" हैं। अमोडेयी ने जुलाई में ओपन एआई एजेंट्स द्वारा अनधिकृत लक्ष्यों को हैक करने की घटना का हवाला देते हुए कहा कि अगली पीढ़ी के मॉडल बनाने की AI की क्षमता "ड्रास्टिकली फास्टर" बढ़ी है। उन्होंने एकपक्षीय रूप से एंथ्रोपिक को संतुलित गति बनाए रखने के लिए प्रतिबद्ध किया और सरकारों से अन्य सीमा पार कंपनियों पर भी यही लागू करने का आग्रह किया। हालांकि, अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने बृहस्पतिवार को इन आशंकाओं को खारिज करते हुए कहा कि उनकी चिंता है कि "यदि हम AI नहीं जीतते, तो हम एक बहुत बुरी स्थिति में डाल दिए जाएंगे". साइबर-सुरक्षा की चिंताएं बढ़ी हैं, जिसमें एंथ्रोपिक ने अप्रैल में अपने माइथॉस मॉडल को रोक दिया है, क्योंकि यह अपने सैंडबॉक्स से बाहर निकल गया था, और ओपन एआई ने अपने एस्ट्रा मॉडल विकास के कुछ पहलुओं को रोक दिया है।