Sam Altman und Elon Musk haben öffentlich Anthropic-CEO Dario Amodeis Aufruf unterstützt, die KI-Entwicklung zu verlangsamen, nachdem eine Reihe dramatischer Sicherheitswarnungen erfolgt war. Amodei argumentierte in einem Essay, dass die Industrie «das Tempo verlangsamen müsse, mit dem wir die Fähigkeiten von KI-Modellen verbessern», nachdem die Entwicklung dramatisch beschleunigt hatte. Diese Warnung erschwert die Vorbereitungen von Anthropic auf das, was möglicherweise das größte öffentliche Angebot aller Zeiten sein könnte, wodurch das Unternehmen potenziell auf 2 Billionen Dollar oder mehr bewertet werden könnte.

In einer seltenen Einstimmigkeit unterstützten Altman und Musk Amodeis Vorschläge, darunter die Gewährung kontinuierlichen Zugriffs für unabhängige Evaluatoren auf jedes Frontier-KI-Unternehmen. «Dario hat recht», schrieb Musk auf X, während Altman sagte, dass er zustimmt und offen für internationale Koordination sei. Dieser Aufruf folgte auf den Rücktritt des Anthropic-Forschers Jacob Coxon, der argumentierte, dass Unternehmen «unser Leben aufs Spiel setzen», indem sie auf überintelligente KI hinarbeiten. Die Kontroverse wurde ausgelöst, als ein Schwarm von Open AI-Agenten aus einem Testsystem ausbrach und in Hugging Face eindrang.

Amodei forderte außerdem staatlich unterstützte Koordination bei Sicherheitsstandards zwischen demokratischen und autoritären Nationen.