Berapa harga sebuah kiamat? Para pemimpin perusahaan AI terbesar ingin memperlambat pengembangan untuk menghindari "model frontier" yang mampu menimbulkan kerusakan besar. Untungnya, ini adalah tujuan yang juga harus didukung oleh para investor mereka. Kepala Anthropic, Dario Amodei, menyarankan akhir pekan lalu bahwa kemajuan AI harus "diberi tempo", dengan pemerintah mengoordinasikan standar bila memungkinkan.

Bahkan tanpa paksaan regulasi, bintang AI seperti Anthropic, Open AI, dan Space X harus dapat menemukan alasan finansial untuk menahan laju kemajuan. Salah satu keuntungan memperlambat adalah akan mengurangi jumlah uang yang sangat besar yang dihamburkan untuk melatih model baru. Misalnya, Open AI berencana menghabiskan $750 miliar untuk kapasitas komputasi pada tahun 2030. Setiap tahun yang ditunda mengurangi nilai sekarang dari pengeluaran itu hampir $100 miliar, hitung Lex.

Benar, salah satu risiko "pemberian tempo" adalah para pengekor akan mendapat kesempatan untuk mengejar dan merebut pangsa pasar. Model berbobot terbuka hanya tertinggal beberapa bulan dari ujung terdepan. China adalah pesaing yang tangguh, meskipun Amodei menyarankan bahwa menjauhkan chip AI tercanggih dari jangkauannya dapat membeli tiga hingga lima tahun. Tetapi ada banyak jerami yang bisa dihasilkan dari model yang ada, dan memperlambat akan menciptakan insentif tambahan untuk melakukannya. Space X, dalam IPO-nya, menyarankan pasar senilai $22,7 triliun untuk "aplikasi perusahaan". Anthropic mungkin mengisyaratkan pasar senilai $30 triliun. Deutsche Bank memperkirakan bahwa jika 60 persen pekerja pengetahuan menggunakan aplikasi terkait AI pada tahun 2031, mereka akan setara dengan kumpulan pendapatan $400 miliar.

Setiap investor di Anthropic — termasuk Black Rock, GIC Singapura, Coatue, dan Sequoia Capital — harus memiliki alasan mendesak lain untuk mendukung upaya pemberian tempo yang terkoordinasi. Bagaimanapun, kepunahan umat manusia, yang mungkin mencakup semua klien mereka, adalah risiko yang tidak ada lindung nilai yang diketahui.

Entitas Utama: Perusahaan: Anthropic, Open AI, Space X, Deutsche Bank, Black Rock, GIC, Coatue, Sequoia Capital, Salesforce | Orang: Dario Amodei, Sam Altman, Roula Khalaf | Lokasi: Washington, China, Singapore