Selama dua minggu mengerikan pada bulan Oktober 1962, dunia berada sejenis kedip mata dari Armageddon nuklir. Amerika Serikat dan Uni Soviet sedang berjuang dengan putus asa untuk mendapatkan keunggulan selama balapan senjata Perang Dingin. Setelah Amerika Serikat menempatkan raket nuklir jarak menengah di Italia dan Turki, Uni Soviet, takut akan serangan pertama, mencoba menempatkan senjata nuklir mereka sendiri di Kuba. Konfrontasi ketat dua minggu yang terjadi kemudian, Krisis Raket Kuba, hampir memicu perang nuklir. Tapi hal itu tidak terjadi. Bahkan bukan hanya pihak-pihak itu mundur dari tepi kebinasaan, krisis itu sendiri membuktikan menjadi titik balik dalam Perang Dingin itu sendiri. Kontak tersebut dengan bencana telah mengubah pola pikir pemimpin di kedua belah pihak, kata William Wohlforth, ilmuwan politik di Dartmouth yang mempelajari keamanan nasional dan hubungan internasional. "Segera kita mendapatkan persetujuan garis panas, sehingga kita bisa saling berbicara. Kami mulai bekerja menuju persetujuan pengujian. Dan perlahan, selama beberapa tahun kemudian, kami memperoleh proses kontrol senjata bilateral yang besar dan kompleks."
Amerika Serikat dan Uni Soviet tetap menjadi musuh yang kejam. Namun, pada satu titik minat bersama — tidak memusnahkan umat manusia — mereka bisa bekerja sama. Hari ini, pakar dalam industri kecerdasan artificial (AI) mengeluarkan peringatan bahwa perusahaan-perusahaan AI dan negara-negara tempat mereka berdomisili terjebak dalam jenis balapan senjata mereka sendiri. Konsekuensi yang banyak orang percaya bisa sama destruktifnya dengan perang nuklir yang Presiden John F. Kennedy dan pemimpin Soviet Nikita Khrushchev hanya dengan sempit menghindari.
Naskah kerja baru oleh Drew Fudenberg, profesor ekonomi di M.I.T. yang merupakan teoretis permainan terkemuka, dan Andrew Koh, profesor ekonomi di Universitas Columbia dan ilmuwan penelitian di Google Deep Mind, menawarkan cara yang mungkin untuk melambatkan balapan senjata AI agar berjalan dengan lebih aman. Ini akan mengharuskan peserta dalam kompetisi — baik perusahaan maupun pemerintah — berbagi informasi yang baik tentang kemajuan mereka, dan menyepakati di mana sebenarnya bahaya dimulai.
Profesor Koh dan Fudenberg mulai dari premisa sederhana: semua orang memiliki kepentingan untuk menghindari bencana, tidak peduli seberapa egoistik mereka mungkin. Pada saat yang sama, mereka berargumen bahwa para pemeran utama dalam industri AI berada di bawah insentif yang kuat untuk bersaing guna mendominasi. Perusahaan-perusahaan ingin bagian pasar dan miliaran dolar investasi yang akan dibawa oleh model-model paling maju. Pemerintah-pemerintah ingin manfaat ekonomi dari AI dan juga akses ke model-model maju untuk keperluan mereka sendiri. Tekanan kompetitif ini mendorong peserta untuk berlomba dengan berbahaya menuju ambang bencana, di mana banyak orang khawatir bahwa agen AI yang liar bisa, misalnya, menjatuhkan pemerintah atau sistem keuangan, merusak infrastruktur vital, atau meluncurkan serangan biologis.
Sumber: New York Times Top Stories · Diringkas oleh HeadlinesBriefing