Nick Bostrom menjadi terkenal karena memprediksi kiamat kecerdasan buatan lebih dari satu dekade lalu — mendapatkan dukungan dari tokoh-tokoh seperti Elon Musk, Sam Altman dan Bill Gates. Tapi sekarang dia mundur dari peringatan itu, memfokuskan perhatiannya pada pertanyaan yang lebih kompleks: Bagaimana jika AI berhasil melampaui imajinasi terliar umat manusia? Akankah kita bosan setengah mati? Apakah kita terlalu kekanak-kanakan untuk memahami apa yang akan datang?
Pembawa acara tamu Spencer Klavan, editor asosiasi di Claremont Review of Books, menekan Bostrom tentang potensi penggunaan dan penyalahgunaan superintelligence, etika rasionalis dan apa yang membuat kita manusia. Di bawah ini adalah transkrip yang diedit dari sebuah episode “Interesting Times”.
Bostrom mengatakan pandangannya tidak berubah secara fundamental, tetapi dunia telah berubah. Ketika dia memulai “Superintelligence” pada tahun 2008, orang menganggapnya sebagai fiksi ilmiah. Sekarang sudah menjadi arus utama, jadi dia mengalihkan fokus ke sisi positif, yang juga memiliki aspek filosofis yang bermasalah.
Tentang probabilitas seperti P(doom), Bostrom mengatakan tidak ada matematika di baliknya — itu subjektif. Dia menyebut dirinya seorang “optimis yang gelisah,” bersemangat tentang sisi positif tetapi khawatir kita mungkin tidak sampai di sana.
Sumber: New York Times Top Stories · Diringkas oleh HeadlinesBriefing