AI sedang mengubah cara pemerintah demokratis melindungi warganya, menawarkan kemampuan untuk mencegah serangan siber, mengamankan infrastruktur kritis, dan mendeteksi ancaman lebih awal. Namun, seperti yang ditekankan oleh OpenAI, alat-alat yang kuat ini harus dipasangkan dengan pengawasan demokratis yang kuat untuk memastikan pertanggungjawaban publik.
Kecepatan keputusan keamanan nasional yang didorong oleh AI menimbulkan tantangan baru bagi mekanisme pengawasan tradisional. Metode berbasis kertas yang digunakan oleh tim kecil kesulitan untuk meninjau sistem yang beroperasi dengan kecepatan mesin, yang membuat penting bagi lembaga pengawasan untuk berkembang seiring dengan adopsi AI.
Untuk menutup celah ini, OpenAI telah berkomitmen menyumbangkan 5 juta dolar dalam pelatihan, dukungan teknis, dan kredit kepada lembaga pengawasan pemerintah demokratis. Perusahaan juga akan menguji alat yang membantu reviewer yang berwenang untuk memeriksa keputusan pemerintah yang didukung AI, memastikan keterlacakan sementara melindungi informasi sensitif.
Inisiatif ini dipandu oleh tiga prinsip: AI harus memperkuat penilaian manusia, bukan menggantinya; penggunaan AI pemerintah harus tetap dapat dilacak ke pengawasan yang berwenang; dan AI harus memberdayakan lembaga pengawasan demokratis. Keberhasilan akan diukur apakah reviewer yang berwenang dapat memenuhi kewajipan mereka dengan lebih baik dan publik mendapatkan kepercayaan yang lebih kuat dalam sistem AI pemerintah.
Pada akhirnya, OpenAI berargumen bahwa AI dapat memusatkan kekuasaan atau membantu lembaga demokratis untuk menggunakannya dan mengendalikannya lebih efektif: hasilnya tergantung pada pilihan yang dibuat oleh lembaga dan perusahaan manusia hari ini.
Sumber: OpenAI Blog · Diringkas oleh HeadlinesBriefing