Dois cientistas da computação de Princeton, coautores de "AI Snake Oil", responderam à afirmação da Anthropic de que há >10% de chance de a IA poder matar todos os humanos em dez anos. Jacob Coxon, que saiu da OpenAI e da Anthropic, afirmou que ambas as empresas sabiam que a IA poderia causar a extinção humana até o fim da década, uma afirmação vista por 156 milhões de pessoas. Evan Hubinger, líder de segurança de IA da Anthropic, concordou com a avaliação de Coxon, dizendo que eles acreditam que a IA poderia matar todos os humanos em um prazo um pouco mais longo e não têm um plano para o alinhamento de superinteligência.

Os riscos principais envolvem ataques cibernéticos destrutivos contra infraestrutura crítica, como sistemas de água e energia. Sayash Kapoor e Arvind Narayanan, conhecidos por abordar o hype da IA, argumentam que o alinhamento por si só é insuficiente e propõem uma abordagem de segurança em camadas que inclui Controle (sandboxing, monitoramento), Defesa downstream (IA defendendo contra IA) e Resiliência (planos de recuperação). Eles acreditam que a ação urgente pode reduzir os riscos e mudar o equilíbrio de cibersegurança a favor dos defensores.