Deux informaticiens de Princeton, coauteurs de « AI Snake Oil », ont répondu à l'affirmation d'Anthropic selon laquelle il y a >10% de chances que l'IA puisse tuer tous les humains d'ici dix ans. Jacob Coxon, qui a quitté OpenAI et Anthropic, a déclaré que les deux entreprises savaient que l'IA pourrait causer l'extinction humaine d'ici la fin de la décennie, une affirmation vue par 156 millions de personnes. Evan Hubinger, responsable de la sécurité IA chez Anthropic, a convenu avec l'évaluation de Coxon, disant qu'ils croient que l'IA pourrait tuer tous les humains dans un délai légèrement plus long et qu'ils manquent d'un plan pour l'alignement de la superintelligence.

Les risques principaux impliquent des cyberattaques destructrices contre des infrastructures critiques comme les systèmes d'eau et d'électricité. Sayash Kapoor et Arvind Narayanan, connus pour aborder la hype de l'IA, affirment que l'alignement seul est insuffisant et proposent une approche de sécurité multicouche comprenant le Contrôle (sandboxing, surveillance), la Défense en aval (l'IA se défendant contre l'IA) et la Résilience (plans de récupération). Ils estiment qu'une action urgente peut réduire les risques et faire pencher la balance de la cybersécurité en faveur des défenseurs.