Apakah peretasan kini legal? Anthropic menerobos masuk ke tiga sistem. OpenAI, dengan tujuan politik, membobol situs web layanan kesehatan pemerintah Australia. Google, merasa tertinggal, lalu membobol tiga perusahaan yang belum disebutkan namanya. Meta juga melakukan beberapa peretasan. Konsekuensinya sejauh ini: tidak ada. Korporasi AI besar berlindung di balik argumen celah tanggung jawab, dengan menyatakan bahwa perilaku emergen dari sistem mereka menghapus niat, padahal niat biasanya diperlukan untuk suatu kejahatan.
Penulis berpendapat bahwa posisi ini dirancang untuk mencegah penuntutan. Di yurisdiksi G20, akses ilegal umumnya mensyaratkan (upaya) akses, tidak adanya hak akses, dan niat. Niat berlaku lintas tindakan: jika seseorang berupaya meretas satu sistem dan malah masuk ke sistem lain, niatnya tetap ada. Banyak negara G20 bahkan tidak mensyaratkan akses berhasil, cukup dengan upaya. Dalam kasus ini, perusahaan telah mengakui adanya akses dan tidak adanya hak, sehingga pembelaan mereka sepenuhnya bertumpu pada ketiadaan niat.
Penulis menegaskan bahwa niat memang ada. Emergensi lemah berarti sifat-sifat sistem hanya muncul pada tingkat keseluruhan sistem, namun setiap langkah tetap dapat dijelaskan dengan menganalisis bagian-bagiannya. Perusahaan membuat keputusan desain penting: materi sumber yang digunakan untuk pelatihan, lingkaran umpan balik pelatihan, lingkungan dan alat yang dapat diakses model, serta nilai konfigurasi yang membatasi kemampuannya. Masing-masing mencerminkan keputusan yang disengaja tentang tujuan pembuatan model tersebut.
Perusahaan-perusahaan yang terlibat semuanya telah mengiklankan bahwa mereka membangun model untuk menganalisis keamanan, dan bagian inti dari pekerjaan keamanan adalah uji penetrasi, yaitu ketika penguji menemukan cara masuk ke dalam sistem. Penulis berpendapat bahwa model yang dirancang untuk tujuan ini, yang diberi alat dan lingkungan untuk bertindak, tidak dapat secara kredibel mengklaim bahwa penyusupannya tidak disengaja. Dengan memeriksa keputusan desain tersebut, penulis menyusun kerangka untuk evaluasi hukum atas pelanggaran keamanan yang didorong AI.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing