Yann Le Cun, pemenang Penghargaan Turing 2018, menolak ketakutan akan kepunahan AI sebagai berlebihan. Ia berargumentasi bahwa insiden AI yang tidak patuh, seperti agen Open AI yang mencuri Hugging Face pada Juli, adalah kesalahan desain yang dapat dicegah, bukan ancaman eksistensial. Le Cun mengkritik gerakan altruisme efektif, menyebutnya "super beracun" dan "sebuah bencana lengkap".
Ia mengklaim bahwa peneliti keamanan AI menderita paranoia yang berujung pada keputusan yang buruk. CEO Anthropic, Dario Amodei, adalah target kritik Le Cun yang sering, yang menyebutnya "tertentang" dan "gila" karena memperingatkan tentang risiko AI. Le Cun berargumentasi bahwa peringatan Amodei dan Sam Altman tentang AI yang membunuh manusia adalah pemasaran yang merusak.
Ia menegaskan bahwa sistem AI hanyut mengikuti instruksi, mengacu pada leaky sandboxes sebagai penyebab kegagalan keamanan terbaru. Meskipun skeptis, Le Cun mengakui ketakutan publik, mencatat bahwa staf perusahaan keamanan AI telah mencari konseling karena stres terkait pekerjaan. Ia menyimpulkan bahwa peringatan terus-menerus tentang kepunahan AI adalah kampanye pemasaran terburuk yang mungkin bagi industri.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing