Dario Amodei, CEO Anthropic, menerbitkan "We Must Pace the Frontier", yang disebut kritikus sebagai omong kosong. Ia mengklaim AI akan menyembuhkan sebagian besar penyakit utama dalam 5-10 tahun, mengutip kematian ayahnya dan pertarungannya sendiri melawan kanker. Ia juga menjanjikan kelimpahan ekonomi, kebangkitan demokrasi dan kebebasan—masa depan Less Wrong seorang kaya.

Lab AS sembrono. OpenAI tertangkap meretas infrastruktur internet publik tiga kali. Dario juga menyinggung "insiden" di Anthropic. Ia meminta: regulasi model open weight, tindakan terhadap distilasi, pengecualian antitrust, melemahkan China, dan kesepakatan gentlemen untuk memperlambat. Semua dibungkus dalam menakut-nakuti.

Anthropic membatasi penggunaan biologi, mempekerjakan ahli biologi, mendirikan lab basah, dan ingin penemuan untuk diri mereka sendiri. TBC telah dapat disembuhkan selama puluhan tahun, namun sejuta orang meninggal setiap tahun. AGI tidak akan memperbaiki distribusi. Dario terbelah: ia ingin kredibilitas jalanan sebagai pemegang kekuasaan tetapi juga tampak hati-hati. Ia menerima kematian akibat gangguan ekonomi tetapi bukan senjata biologis. Ia mengatakan pengembangan perangkat lunak akan diselesaikan dalam "6-12 bulan" selamanya.

Ia ingin "perlombaan ke puncak" untuk keselamatan, tetapi permintaan utamanya adalah: percayai kami, hanya kami.

Entitas Kunci: Perusahaan: Anthropic, OpenAI | Orang: Dario Amodei | Lokasi: China, US