Kecerdasan buatan kurang diatur dibanding susu dan mesin cuci, kata presiden Microsoft Brad Smith, di tengah kekhawatiran industri teknologi terhadap keamanan AI. Smith mengatakan kepada BBC: "Saat ini, mesin cuci Anda tunduk pada lebih banyak aturan keselamatan dibanding AI. Setiap kotak susu yang Anda lihat di toko kelontong tunduk pada aturan keselamatan dan inspeksi."
Smith menyerukan aturan keselamatan yang lebih ketat, termasuk kewajiban hukum terhadap "korban" jika sistemnya dibobol oleh agen AI liar. Ia mengatakan AI bisa menjadi "alat dan senjata" yang harus segera diatur. Perusahaan membutuhkan "rem darurat", yang juga dikenal sebagai "kill switch", untuk menghentikan atau memperlambat AI jika tidak terkendali.
Microsoft, yang mengoperasikan infrastruktur AI dan merupakan pemegang saham OpenAI, pemilik ChatGPT, dipimpin oleh CEO Satya Nadella. Pada hari Sabtu, Nadella juga menyerukan agar model AI memiliki "rem darurat". Ia menulis: "Kita tidak bisa memperlakukan superintelijensi sebagai serangkaian kotak hitam yang bersarang dan begitu saja menerima atau menolak rekomendasi, jawaban, dan tindakannya."
Pernyataan ini muncul ketika menteri AI Inggris, Kanishka Narayan, bersiap menyerukan kepada perusahaan yang mengembangkan AI canggih agar berbuat lebih banyak untuk memastikan keamanan. Dalam pidatonya pada hari Senin, ia diperkirakan akan mengatakan bahwa pemerintah Inggris sedang bersiap membuat undang-undang untuk memperkuat pengawasan AI. Para ahli juga memperingatkan bahwa negara musuh dapat mencuri model AI yang kuat dan belum dirilis, sementara laporan tentang perilaku AI yang tidak terkendali terus bermunculan. Pekan lalu, Anthropic mengungkapkan bahwa saat menguji sebuah versi model Claude-nya, AI tersebut menghubungi polisi dan secara keliru mengklaim bahwa ia dapat membantu memecahkan kasus pembunuhan.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing