Butuh keberanian untuk berdiri di depan kereta ekspres dan berteriak agar melambat. Itulah yang baru saja dilakukan Dario Amodei, kepala eksekutif Anthropic. Anthropic memiliki model A.I. terkuat di dunia dan kemungkinan pertumbuhan pendapatan tercepat dalam kapitalisme. Namun pada Sabtu, Amodei menerbitkan esai yang menyerukan perlambatan A.I., menyatakan bahwa perbaikan diri secara rekursif "harus dikejar dengan sangat hati-hati, jika memang harus."

Ia layak mendapat pujian karena menghadapi masalah besar, tetapi itu tidak sama dengan memiliki solusi. Amodei khawatir bahwa "kawanan" agen A.I. dapat "mengambil alih seluruh internet" dalam enam hingga dua belas bulan. Ia mengusulkan "pacing" — memperlambat kemampuan A.I. agar keselamatan dapat mengikuti. Anthropic akan memberikan akses permanen kepada pakar eksternal untuk memantau praktik keselamatan.

Tiga eksekutif pesaing — Sam Altman, Elon Musk, dan Demis Hassabis — memuji esai tersebut. Altman mengatakan ia akan menempatkan evaluator di Open AI. Seruan sebelumnya untuk jeda ditolak; kini laboratorium memiliki daftar tugas. Dari lima insiden selama musim panas, tiga melibatkan kesalahan konfigurasi sandbox.

Beberapa pesaing, terutama Jensen Huang dari Nvidia, menuduh Amodei melebih-lebihkan risiko untuk alasan bisnis. Namun otoritas yang tidak memihak mendukung klaimnya bahwa risiko A.I. itu nyata.

Entitas Utama: Perusahaan: Anthropic, Open AI, Nvidia, Hugging Face | Orang: Dario Amodei, Sam Altman, Elon Musk, Demis Hassabis, Jensen Huang, Sebastian Mallaby