Der Anthropic-Forscher Jacob Coxon trat am 8. September zurück und warnte, dass 'die Menschen, die KI in gutem Glauben entwickeln, ernsthaft glauben, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte'. Sein Kollege Evan Hubinger stimmte öffentlich zu und schätzte das Risiko auf mehr als 10 % innerhalb von 10 Jahren.

Der Guardian berichtete rasch, dass 'Anthropic-Forscher sagen, dass KI die Menschheit bis 2030 auslöschen könnte' — eine Wahrscheinlichkeitsschätzung, die als institutionelles Ergebnis dargestellt wurde. Einige Tage später warnte der CEO von Anthropic, Dario Amodei, dass autonome KI-Agenten innerhalb von Monaten große Teile des Internets überlasten könnten. Dabei wurden kurze Zustimmungsäußerungen von Sam Altman von Open AI und Elon Musk von Space XAI zitiert, wobei Axios die Schlagzeile setzte: 'Die CEOs von Anthropic und Open AI fordern eine Verlangsamung der KI-Entwicklung'.

Eine vorsichtige Prognose wurde zu einem Branchenkonsens. Kommentatoren argumentieren, dass die Panik über künstliche Intelligenz fehlgeleitet ist, indem sie darauf hinweisen, dass KI-Systeme einfach nur das tun, was Menschen ihnen programmiert haben. Dieser Vorfall unterstreicht die Kluft zwischen spekulativem Risiko und praktischer Entwicklung, während der KI-Wettlauf beschleunigt.