Alarm yang dibunyikan oleh CEO AI tentang produk-produk yang mereka sendiri buru-buru luncurkan ke pasar setara dengan pengakuan kegagalan yang menakjubkan dan kegagalan tata kelola yang luar biasa. Mengapa, lalu, politisi global meminta CEO yang sama untuk bicara soal solusi sambil mendebatkan apakah teknologi mereka telah mendatangkan malapetaka bagi umat manusia? Sekali lagi, kita membiarkan pemimpin korporasi mendikte ketentuan diskusi sambil menanyakan apa yang harus dilakukan. Bahkan presiden Komisi Eropa Ursula von der Leyen, dalam pidato State of the Union terbarunya, mengundang CEO AI untuk membahas "cara mengatur kecepatan batas depan" dan "mendukung upaya industri yang berlangsung".

Langkah ini mengirim sinyal salah pada waktu yang salah. Bayangkan meminta perusahaan minyak mendesain kebijakan iklim atau perusahaan mobil membuat aturan lalu lintas. Hal ini terasa aneh karena Eropa memiliki undang-undang AI komprehensif, EU AI Act, dengan mitigasi risiko di intinya.

Alih-alih meminta pemimpin bisnis apa yang dibutuhkan masyarakat ke depan, pemimpin politik seharusnya lebih baik menguji klaim mereka dan memastikan bisnis serta produk mereka berkontribusi pada kesuksesan seluruh masyarakat. Di mana para legislator saat pusat data didirikan tanpa transparansi kepemilikan, kebutuhan sumber daya, atau dampak pada komunitas lokal? Di mana pengawasan saat kekhawatiran keamanan disingkirkan untuk meningkatkan keunggulan kompetitif? Undang-undang harus menjadi jangkar setiap tindakan pemimpin Eropa dan diperbarui saat kemajuan teknologi menuntutnya. AI Act saat ini mencakup kewajiban transparansi, penilaian dan mitigasi risiko sistemik, serta mengatur pengawasan model tujuan umum.

Ini adalah fondasi yang diharapkan banyak pakar akan dijamin regulasi di tempat lain juga. Eropa tidak seharusnya mengadakan puncak dengan CEO AI sebagai pengganti menegakkan aturan yang sudah dimiliki. Menegakkan hukum existing dengan lebih tegas memungkinkan tindakan lebih langsung.

Masyarakat memerlukan pemahaman jauh lebih baik tentang apa yang terjadi di lab AI, dari eksperimen hingga deployment. Itu akan memungkinkan penilaian risiko, menginformasikan kebijakan, dan mengatur kecepatan atau bahenti pelepasan model baru sesuai kebutuhan. Moratorium tidak mengikat yang donegosiasikan antar perusahaan yang wajib mematuhinya tidak akan membawa kita ke tempat yang lebih baik.

Faktanya, seruan sebelumnya pemimpin AI untuk jeda pengembangan model frontier menghasilkan nol perubahan perilaku. Kita butuh reset tata kelola komprehensif yang dipimpin pemimpin dan institusi demokratis untuk mencapai scrutinity independen dan akuntabilitas nyata. Dario Amodei dari Anthropic meminta koalisi demokrasi untuk mengatur keamanan AI bersama. Sebagai tuan rumah lab frontier terdepan, AS memegang kunci koalisi seperti itu.

Saat perusahaan AS bertanggung jawab di rumah, dampaknya beriak ke seluruh dunia. Washington akan menikmati versi sendiri dari efek Brussel: aturan AS menjadi standar global tata kelola AI default, seperti aturan EU soal perlindungan data dan keamanan produk membentuk norma jauh di luar batasnya. Efek itu hanya terealisasi, namun, jika aturan memiliki substansi dan selaras nilai dengan demokrasi lain.

Jika ingin melihat tata kelola AI global, perusahaan teknologi harus lobbying Washington untuk regulasi mengikat, putaran 180 derajat dari pendekatan saat ini. Bagaimana kita sampai di titik di mana perusahaan AI meyakinkan investor dan pasar bahwa mereka akan membangun masa depan hanya untuk memperingatkan kita bahwa mereka akan mengakhirinya pada saat yang sama? Mari fokus pada memperkuat tata kelola demokratis AI. Kita tak bisa menunggu laporan insiden lain yang memperingatkan bencana.

Penyulap api tidak jadi pemadam kebakaran yang baik.