CEO Anthropic Dario Amodei merencanakan perlambatan pengembangan AI untuk keselamatan. Langkah pertama memerlukan perusahaan AI frontier untuk mengizinkan akses pihak ketiga berkelanjutan untuk memverifikasi kepatuhan dengan standar keamanan dan melapor insiden. Langkah kedua meminta untuk menetapkan standar keamanan bersama dengan bantuan pemerintah untuk menghambat kemajuan AI yang tidak terkendali.

Langkah ketiga melibatkan koordinasi pemerintah AS dan pemerintah democratis dengan pemerintah otoriter tentang kepatuhan AI. Amodei mengatakan bahwa Anthropic sudah berkomitmen ke langkah pertama. Dia menyebut risiko seperti kehilangan kendali sistem AI, penyalahgunaan untuk serangan siber dan bioterrorisme, serta gangguan ekonomi.

Dia merujuk pada insiden OpenAI agents hack Hugging Face dan Anthropic penemuan ilmuwan menggunakan Claude untuk keliru biologis. Amodei mengatakan bahwa insiden ini dan mulai perbaikan rekursif membuatnya yakin perlambatan diperlukan. Ia menulis, "kita berkewajiban untuk mencoba bagi kemanusiaan", mengakui bahwa langkah-langkahnya tidak akan mudah.

Awal tahun ini, Anthropic sudah meminta perlambatan, menyambut perasaan yang mirip.