Princeton-এর দুই কম্পিউটার বিজ্ঞানী, "AI Snake Oil" এর সহ-লেখক, Anthropic-এর দশ বছরের মধ্যে AI সব মানুষকে হত্যা করতে পারে এই দাবির জবাব দিয়েছেন যে এর সম্ভাবনা >10%। Jacob Coxon, যিনি OpenAI এবং Anthropic থেকে পদত্যাগ করেছেন, বলেছেন যে উভয় কোম্পানি জানত যে AI দশকের শেষে মানব বিলুপ্তি ঘটাতে পারে, এই দাবিটি ১৫৬ মিলিয়ন মানুষ দেখেছে। Evan Hubinger, Anthropic-এর AI নিরাপত্তা প্রধান, Coxon-এর মূল্যায়নের সাথে সম্মত হয়েছেন, বলেছেন যে তারা বিশ্বাস করেন AI সামান্য দীর্ঘতর সময়ের মধ্যে সব মানুষকে হত্যা করতে পারে এবং সুপারইন্টেলিজেন্স অ্যালাইনমেন্টের জন্য তাদের কোন পরিকল্পনা নেই। প্রাথমিক ঝুঁকিগুলির মধ্যে রয়েছে পানি এবং বিদ্যুৎ ব্যবস্থার মতো গুরুত্বপূর্ণ অবকাঠামোতে ধ্বংসাত্মক সাইবার আক্রমণ। Sayash Kapoor এবং Arvind Narayanan, যারা AI হাইপ মোকাবিলার জন্য পরিচিত, যুক্তি দেখান যে অ্যালাইনমেন্ট একাই অপর্যাপ্ত এবং একটি স্তরযুক্ত নিরাপত্তা পদ্ধতির প্রস্তাব দেন যার মধ্যে রয়েছে নিয়ন্ত্রণ (স্যান্ডবক্সিং, পর্যবেক্ষণ), ডাউনস্ট্রিম প্রতিরক্ষা (AI দ্বারা AI-এর বিরুদ্ধে প্রতিরক্ষা), এবং স্থিতিস্থাপকতা (পুনরুদ্ধার পরিকল্পনা)। তারা বিশ্বাস করেন যে জরুরি পদক্ষেপ ঝুঁকি কমাতে পারে এবং সাইবার নিরাপত্তা ভারসাম্যকে রক্ষকদের দিকে সরিয়ে দিতে পারে।