Dos científicos informáticos de Princeton, coautores de "AI Snake Oil", han respondido a la afirmación de Anthropic de que existe un >10% de probabilidad de que la IA pueda matar a todos los humanos en diez años. Jacob Coxon, quien renunció a OpenAI y Anthropic, declaró que ambas empresas sabían que la IA podría causar la extinción humana para fin de la década, una afirmación vista por 156 millones de personas. Evan Hubinger, líder de seguridad de IA en Anthropic, estuvo de acuerdo con la evaluación de Coxon, diciendo que creen que la IA podría matar a todos los humanos en un plazo ligeramente más largo y carecen de un plan para la alineación de superinteligencia.

Los riesgos principales implican ciberataques destructivos contra infraestructura crítica como sistemas de agua y energía. Sayash Kapoor y Arvind Narayanan, conocidos por abordar el bombo de la IA, argumentan que la alineación por sí sola es insuficiente y proponen un enfoque de seguridad por capas que incluye Control (aislamiento, monitoreo), Defensa posterior (IA defendiéndose contra IA) y Resiliencia (planes de recuperación). Creen que la acción urgente puede reducir los riesgos y cambiar el equilibrio de ciberseguridad a favor de los defensores.