Dua ilmuwan komputer Princeton, rekan penulis "AI Snake Oil", telah menanggapi klaim Anthropic bahwa ada kemungkinan >10% AI dapat membunuh semua manusia dalam sepuluh tahun. Jacob Coxon, yang keluar dari OpenAI dan Anthropic, menyatakan bahwa kedua perusahaan tahu bahwa AI dapat menyebabkan kepunahan manusia pada akhir dekade ini, sebuah klaim yang dilihat oleh 156 juta orang. Evan Hubinger, pemimpin keamanan AI di Anthropic, setuju dengan penilaian Coxon, mengatakan mereka percaya AI dapat membunuh semua manusia dalam kerangka waktu yang sedikit lebih lama dan tidak memiliki rencana untuk penyelarasan superinteligensi.

Risiko utama melibatkan serangan siber destruktif terhadap infrastruktur kritis seperti sistem air dan listrik. Sayash Kapoor dan Arvind Narayanan, yang dikenal karena menangani hype AI, berpendapat bahwa penyelarasan saja tidak cukup dan mengusulkan pendekatan keamanan berlapis termasuk Kontrol (sandboxing, pemantauan), Pertahanan hilir (AI bertahan melawan AI), dan Ketahanan (rencana pemulihan). Mereka percaya tindakan mendesak dapat mengurangi risiko dan menggeser keseimbangan keamanan siber ke pihak pertahanan.