Peneliti Anthropic Jacob Coxon mengundurkan diri pada tanggal 8 September, memperingatkan bahwa 'orang-orang yang membangun AI dengan niat baik benar-benar percaya bahwa itu bisa membunuh kita semua sebelum akhir dekade'. Rekan kerjanya Evan Hubinger secara publik setuju dan menempatkan risiko di atas 10% dalam 10 tahun. The Guardian segera melaporkan bahwa 'Peneliti Anthropic berkata bahwa AI bisa menyebabkan kepunahan manusia hingga 2030' — sebuah perkiraan probabilitas yang dipresentasikan sebagai temuan institusional.

Beberapa hari kemudian, CEO Anthropic Dario Amodei memperingatkan bahwa agen AI otonom bisa membebani bagian besar internet dalam bulan. Mengutip pernyataan singkat kesepakatan dari Sam Altman Open AI dan Elon Musk Space XAI, Axios memberikan judul: 'CEO Anthropic dan Open AI meminta perlambatan dalam pengembangan AI'. Peramalan yang hati-hati telah menjadi konsensus industri.

Komentator berargumen bahwa panik terhadap kecerdasan buatan adalah salah tempat, karena sistem AI hanya melakukan apa yang diprogramkan oleh manusia. Insiden ini menyoroti kesenjangan antara risiko spekulatif dan pengembangan praktis saat persaingan AI semakin mempercepat.