Le chercheur d'Anthropic Jacob Coxon a démissionné le 8 septembre, avertissant que 'les personnes qui construisent l'IA de bonne foi croient vraiment qu'elle pourrait nous tuer tous d'ici la fin de la décennie'. Son collègue Evan Hubinger a publiquement exprimé son accord et a estimé le risque à plus de 10 % d'ici 10 ans. Le Guardian a rapidement rapporté que 'les chercheurs d'Anthropic affirment que l'IA pourrait provoquer l'extinction de l'humanité d'ici 2030' — une estimation de probabilité présentée comme une découverte institutionnelle.

Quelques jours plus tard, le PDG d'Anthropic, Dario Amodei, a averti que les agents d'IA autonomes pourraient submerger de grandes parties d'Internet en quelques mois. En citant les déclarations concises d'accord de Sam Altman d'Open AI et d'Elon Musk de Space XAI, Axios a titré l'article : 'Les PDG d'Anthropic et d'Open AI appellent à un ralentissement du développement de l'IA'. Une prévision prudente est devenue un consensus industriel.

Les commentateurs affirment que la panique concernant l'intelligence artificielle est mal placée, en soulignant que les systèmes d'IA n'ont fait que ce que les humains leur avaient programmé de faire. Cet incident souligne l'écart entre le risque spéculatif et le développement pratique alors que la course à l'IA s'accélère.