Presenters Bloomberg Odd Lots, Joe Weisenthal dan Tracy Alloway, mewawancarai Nate Soares, presiden Machine Intelligence Research Institute, tentang bahaya AI supercerdas yang tidak terkendali. Sejak insiden Hugging Face, kekhawatiran tentang api akhir AI telah masuk ke aliran utama. Dalam buku mereka tahun 2025 'If Anyone Builds It, Everyone Dies', Soares dan Eliezer Yudkowsky menggambarkan visi kehancuran yang tak terelakkan bagi kemanusiaan.
Soares berargumen bahwa tidak mungkin untuk menyelaraskan AI supercerdas, menjelaskan bagaimana teknologi dapat dan akan menjadi tidak terkendali seiring berkembangnya. Diskusi mengeksplorasi mengapa peringatan ini, yang dulu sempit, kini terasa mendesak saat kemampuan AI meningkat pesat. Percakapan menekankan pergeseran perdebatan risiko eksistensial (X-risk) dari teoritis ke diskursus publik yang mendesak.
Sumber: Bloomberg Markets · Diringkas oleh HeadlinesBriefing