Princeton के दो कंप्यूटर वैज्ञानिक, "AI Snake Oil" के सह-लेखक, ने Anthropic के इस दावे का जवाब दिया है कि दस वर्षों के भीतर AI सभी मनुष्यों को मार सकता है, इसकी >10% संभावना है। Jacob Coxon, जिन्होंने OpenAI और Anthropic से इस्तीफा दिया, ने कहा कि दोनों कंपनियों को पता था कि AI दशक के अंत तक मानव विलुप्ति का कारण बन सकता है, यह दावा 156 मिलियन लोगों ने देखी। Evan Hubinger, Anthropic के AI सुरक्षा प्रमुख, Coxon के मूल्यांकन से सहमत हुए, कहते हुए कि वे मानते हैं कि AI थोड़े लंबे समय सीमा में सभी मनुष्यों को मार सकता है और उनके पास सुपरइंटेलिजेंस एलाइनमेंट के लिए कोई योजना नहीं है। प्राथमिक जोखिमों में पानी और बिजली प्रणालियों जैसे महत्वपूर्ण बुनियादी ढांचे पर विनाशकारी साइबर हमले शामिल हैं। Sayash Kapoor और Arvind Narayanan, जो AI हाइप को संबोधित करने के लिए जाने जाते हैं, तर्क देते हैं कि एलाइनमेंट अकेले अपर्याप्त है और एक स्तरित सुरक्षा दृष्टिकोण प्रस्तावित करते हैं जिसमें नियंत्रण (सैंडबॉक्सिंग, निगरानी), डाउनस्ट्रीम रक्षा (AI द्वारा AI के खिलाफ बचाव), और लचीलापन (पुनर्प्राप्ति योजनाएं) शामिल हैं। वे मानते हैं कि तत्काल कार्रवाई जोखिमों को कम कर सकती है और साइबर सुरक्षा संतुलन को रक्षकों की ओर बदल सकती है।