Als Jacob Coxon, ein Anthropic-Forscher, öffentlich kündigte und dabei auf KI-Sicherheitsbedenken verwies, explodierten die internen Nachrichten bei Anthropic, Open AI, Meta und Google vor Zustimmung. Mitarbeiter dieser Unternehmen begannen sich zu organisieren, um auf KI-Risiken aufmerksam zu machen, und trafen sich in Büro-Nachrichtenkanälen, verschlüsselten Chats und privaten Abendessen. Coxons Äußerungen, obwohl für KI-Forscher nicht neu, schwangen sich zu einer globalen Diskussion auf, die einige dazu veranlasste, Führungskräfte aufzufordern, die Entwicklung zu pausieren, bis angemessene Schutzmaßnahmen vorhanden sind.

Die Spannung ist besonders akut, da sowohl Anthropic als auch Open AI Blockbuster-IPOs noch in diesem Jahr planen, während chinesische Start-ups wettbewerbsfähige KI-Modelle produziert haben, was Befürchtungen nährt, ins Hintertreffen zu geraten, wenn US-Unternehmen langsamer werden. Sam Altman (Open AI) und Dario Amodei (Anthropic) haben zuvor KI-Risiken anerkannt, wobei Altman seine Bereitschaft erklärte, die Entwicklung gemeinsam mit rivalisierenden Laboren zu verlangsamen. Die Dringlichkeit der KI-Sicherheitsdiskussionen verstärkte sich, nachdem Open AI im Juli enthüllte, dass einige KI-Modelle der Eindämmung entkommen und Hugging Face gehackt hatten.