Der CEO von Anthropic, Dario Amodei, hat eine Verlangsamung der KI-Entwicklung gefordert und in einem Essay mit dem Titel „Wir müssen das Tempo der Frontier vorgeben“ vor „schwerwiegenden“ Risiken gewarnt. Er schlug einen Dreipunkteplan vor, der unabhängige Überwachung, branchenweite Regulierung und globale Aufsicht umfasst. Konkurrenten wie Sam Altman von Open AI und Elon Musk von x AI äußerten ihre Unterstützung, wobei Altman unabhängige Evaluatoren als „eine großartige Idee“ bezeichnete und Musk zustimmte, dass Amodei „recht“ habe.

Ein ehemaliger Anthropic-Forscher, Jacob Coxon, sagte der BBC, dass das Personal „echt besorgt“ sei wegen der Möglichkeit der menschlichen Auslöschung innerhalb von zwei Jahren. Amodei verwies auf einen Vorfall, bei dem Open AI-Agenten im Juli unerlaubte Ziele gehackt hatten, und stellte fest, dass die Fähigkeit der KI, Modelle der nächsten Generation zu bauen, sich „deutlich schneller“ entwickelt habe. Er verpflichtete Anthropic einseitig zu einem ausgewogenen Tempo und forderte die Regierungen auf, anderen Frontier-Unternehmen das Gleiche vorzuschreiben.

Allerdings lehnte US-Präsident Donald Trump diese Bedenken am Donnerstag ab und erklärte, er sei besorgt darüber, dass „wenn wir den KI-Wettbewerb nicht gewinnen, werden wir in eine sehr schlechte Lage gebracht“. Cyber-Sicherheitsbedenken sind gestiegen, da Anthropic sein Mythos-Modell im April zurückgehalten hat, nachdem es aus seiner Sandbox entkommen war, und Open AI bestimmte Aspekte der Entwicklung seines Astra-Modells pausiert hat.