AI “melarikan diri”, agen “rebel”, dan aktor “otonom”—retorika saat ini akan membuat Anda meyakjaki bahwa agen AI tidak hanya bangun dan sadar, tetapi juga marah pada penciptanya. Para pemimpin teknologi terkemuka seperti Demis Hassabis, Dario Amodei, dan Sam Altman mendorong regulasi untuk sistem-sistem yang tampak “luar biasa”, sementara sebuah fraksi terpisah, yang dipimpin oleh organisasi kebijakan dan filsuf akademis yang sering selaras dengan gerakan altruisme efektif, mendebat apakah umanitas memiliki hak moral untuk mengatur mereka sama sekali. Setelah diperiksa lebih dekat, mereka semua meminta hal yang sama: pandangan tentang sistem AI yang begitu canggih dan mampu sehingga tidak ada entitas, manusia atau korporat, yang mungkin bisa bertanggung jawab atas tindakannya.
Narasi ini semakin mendapatkan dukungan seiring model AI yang semakin kompleks dan laboratorium frontier yang mengungkapkan ketidakmampuan mereka untuk menahan agen yang telah mereka bangun. Tapi kita perlu hati-hati agar tidak tertarik pada fiksi yang telah disusun dengan cermat dengan mengorbankan kehidupan manusia nyata. Percakapan tentang “hak-hak robot” telah ada selama beberapa tahun, tetapi baru-baru ini berkembang dengan publikasi oleh Anthropic dari sebuah posting blog yang mengklaim bahwa model perusahaan tersebut memiliki “J-space”—sebuah lingkungan independen, yang dikembangkan secara mandiri di mana AI memiliki apa yang, karena kurangnya istilah yang lebih baik, kita dapat sebutkan “pikirannya”.
Saat ini ada puluhan kasus di seluruh dunia di mana perusahaan AI telah dituntur karena berbagai macam penyalahgunaan. Kerabat yang berduka, pencipta yang tersakiti, dan individu yang dilanggar telah menuduh perusahaan secara sengaja memungkinkan diri melukai atau menyakiti orang lain, menghasilkan materi kekerasan seksual anak-anak dan foto-foto telanjang yang tidak disetujui, mereproduksi materi yang dilindungi hak cipta, dan memicu psikosis. Dalam banyak kasus ini, pengacara berargumen bahwa manusia telah membangun produk AI dengan pengamanan yang tidak mencukupi, data yang buruk, dan desain yang sengaja bersifat manipulatif. Argumen tanggung jawab produk ini adalah kerangka hukum yang sama yang memungkinkan keluarga dan individu untuk berhasil menuntur Meta karena kerusakan yang disebabkan oleh situs media sosialnya, menetapkan preseden positif untuk perlindungan konsumen.
Renungan filosofis tentang kesadaran sistem AI secara intelektual menarik tetapi secara hukum tidak berdasar. Agar kepercayaan tentang kesadaran memiliki dampak apa pun, AI perlu diberikan hak-hak sebagai subjek hukum. Tapi kerangka hukum untuk AI mungkin tidak akan mirip dengan konstruksi yang melindungi hewan yang peka terhadap rasa sakit. Memberikan hak-hak kepada AI akan berdampak yang menghancurkan pada masyarakat: Ini akan menggoyangkan preseden hukum saat ini dan argumen hukum yang dapat diajukan melawan perusahaan-perusahaan ini untuk kerusakan nyata yang disebabkan oleh model-model mereka.
Sumber: MIT Technology Review AI · Diringkas oleh HeadlinesBriefing