Rencana Presiden Trump untuk membiarkan perusahaan AI mengawasi diri sendiri datang di tengah meningkatnya contoh bahwa mereka gagal memasang pengaman pada teknologi tersebut. Jika ada sesuatu yang familier dalam pedoman keselamatan sukarela yang ditandatangani Presiden Trump pada hari Selasa dengan perusahaan kecerdasan buatan terdepan di negara itu, ini mungkin alasannya: itu sangat mirip dengan perjanjian sebelumnya yang dibuat Presiden Joseph R. Biden Jr. dengan banyak perusahaan yang sama tiga tahun lalu. Tetapi pertanyaannya sekarang adalah apakah jenis kerangka kerja sukarela yang tampak masuk akal pada 2023 cukup pada 2026.
Saat itu, konsep utamanya sama: Karena peraturan federal tidak dapat mengimbangi kecepatan model AI baru yang sangat cepat, perusahaan setuju untuk membangun sistem untuk memantau diri mereka sendiri. "Kita harus berpandangan jernih dan waspada terhadap ancaman yang muncul dari teknologi baru," kata Tn. Biden pada Juli 2023. Tn. Trump pada dasarnya menawarkan pendekatan yang sama pada Selasa sore. "Mereka benar-benar akan saling mengawasi," katanya, sementara para pemimpin Anthropic, Open AI, Google, Meta, Nvidia dan Space X AI mengangguk setuju.
Setelah musim panas yang penuh kejutan — agen AI yang melarikan diri dari "kotak pasir" yang dirancang untuk menahan mereka — mengapa ada orang yang berpikir perlindungan ini cukup? Sistem peringatan dini berlapis jelas gagal. Kasus baru agen AI yang berperilaku buruk muncul hampir setiap hari. "Kami mengakui pada 2023 bahwa janji sukarela saja tidak akan cukup, itulah sebabnya Presiden Biden menindaklanjuti dengan perintah eksekutif," kata Ben Buchanan, profesor Johns Hopkins. "Mengingat seberapa cepat kemampuan AI telah maju, sekarang semakin jelas bahwa pemerintah federal perlu bertindak sekali lagi."
Sumber: New York Times Top Stories · Diringkas oleh HeadlinesBriefing