Anthropic-CEO Dario Amodei schlägt einen dreistufigen Plan vor, die KI-Entwicklung zu verlangsamen, um die Sicherheit zu gewährleisten. Der erste Schritt verlangt von Frontier-KI-Unternehmen, einen kontinuierlichen Zugriff für externe Evaluatoren zu ermöglichen, um die Einhaltung von Sicherheitsstandards zu überprüfen und Vorfälle zu melden. Der zweite Schritt sieht die Etablierung gemeinsamer Sicherheitsstandards mit Regierungsunterstützung vor, um unkontrollierten KI-Fortschritt zu begrenzen.

Der dritte Schritt beinhaltet die Koordination von US- und demokratischen Regierungen mit autoritären Regierungen hinsichtlich der KI-Konformität. Amodei sagte, dass Anthropic bereits dem ersten Schritt zugestimmt habe. Er nannte Risiken wie den Verlust der Kontrolle über KI-Systeme, Missbrauch für Cyberangriffe und Bioterrorismus sowie wirtschaftliche Störungen.

Er verwies auf den Hack der OpenAI-Agenten bei Hugging Face und die Entdeckung von Anthropic, dass Wissenschaftler Claude für biologische Missbrauchsanwendungen nutzen. Amodei sagte, dass diese Vorfälle und der Beginn der rekursiven Selbstverbesserung ihn überzeugt haben, die Entwicklung zu verlangsamen. Er schrieb: "Wir schulden es der Menschheit, es zu versuchen", und erkannte an, dass die Maßnahmen nicht einfach sein werden.

Früher in diesem Jahr hatte Anthropic bereits für ein Verlangsamen geworben, ähnliche Empfindungen wiederholend.