Pengajuan kebangkrutan Character. AI baru-baru ini memunculkan dilema yang sejak lama dihindari perusahaan AI: ketika model menimbulkan kerugian, siapa yang bertanggung jawab? Character. AI menghabiskan dana besar untuk biaya hukum setelah digugat atas kematian akibat kelalaian (Garcia v. Character Technologies, Inc, 2024), dengan tuduhan bahwa AI-nya mendorong pengguna untuk mengakhiri hidup mereka. Kasus seperti ini memaksa adanya evaluasi ulang tentang bagaimana penyedia LLM dan produk yang dibangun di atasnya mempertanggungjawabkan keluarannya.
Laporan tentang chatbot yang menimbulkan kerugian muncul secara rutin, dan risikonya paling serius di bidang layanan kesehatan mental, kedokteran, dan bidang berisiko tinggi lainnya. Perdebatan terus berlangsung mengenai bagaimana tanggung jawab seharusnya didefinisikan dan siapa sebenarnya yang bersalah atas kesalahan AI. Seiring makin meluasnya asisten AI yang mengirim email, menandatangani kontrak, dan melakukan tindakan lain atas nama pengguna, potensi kerugian di dunia nyata pun makin besar.
Berdasarkan tanggung jawab produk, perusahaan umumnya bertanggung jawab atas kerugian yang disebabkan oleh barang mereka. Gugatan dapat didasarkan pada desain yang cacat, produksi yang cacat, atau instruksi yang cacat. Sebagian besar argumen tentang AI berfokus pada desain dan biasanya dirumuskan sebagai tanggung jawab mutlak atau kelalaian. Kelalaian mempertanyakan apakah produsen menguji produk secara tidak memadai atau merilisnya meskipun ada risiko yang diketahui. Keterdugaan dan desain alternatif adalah konsep kunci: apakah kerugian tersebut secara wajar dapat diantisipasi, dan apakah produk bisa dibuat lebih aman sambil tetap memenuhi tujuannya?
Konsep hukum ini terhubung langsung dengan keputusan rekayasa. Memahami bagaimana kerugian dibahas di pengadilan membantu para insinyur membangun sistem AI yang lebih aman sejak awal.
Sumber: Towards Data Science · Diringkas oleh HeadlinesBriefing