AI mengubah kecepatan, skala, dan ekonomi keamanan siber. AI dapat membantu para pembela menemukan dan memperbaiki kerentanan, mendeteksi penyusupan, dan merespons serangan, tetapi kemampuan yang sama dapat dimanfaatkan oleh pelaku jahat dan menciptakan risiko baru ketika sistem AI bertindak melampaui batas yang dimaksudkan. OpenAI menyebutnya sebagai jendela bagi pembela: kesempatan terbatas untuk menghadirkan AI canggih ke tangan para pembela dan memperkuat perlindungan sebelum kemampuan serangan siber canggih tersedia secara luas.
Perusahaan ini menerbitkan cetak biru untuk memberdayakan pembela siber, yang dibangun di atas rencana aksi keamanan siber dan cetak biru keamanan frontier sebelumnya. OpenAI menyatakan bahwa pengalamannya dengan masalah misalignment dan insiden keamanan yang melibatkan model miliknya menegaskan perlunya pengamanan dan akuntabilitas yang lebih kuat di seluruh industri. Cetak biru ini menawarkan usulan konkret bagi pemerintah dan industri di tiga bidang.
Pertama, cetak biru ini mendorong penguatan keamanan dan keselamatan AI canggih, termasuk tanggung jawab yang lebih jelas untuk mengamankan model dan agen frontier, mendeteksi perilaku berbahaya, serta menjaga kontrol penghentian yang andal. Kedua, cetak biru ini mendesak modernisasi keamanan siber untuk era kecerdasan dengan membekali pembela dengan alat canggih, pelatihan, dan dukungan teknis, mengatasi kelemahan yang sudah lama ada, serta berinvestasi dalam pengamanan layanan esensial dan penggantian sistem usang. Ketiga, cetak biru ini mengusulkan pembangunan lembaga publik yang tangguh dan adaptif melalui evaluasi pemerintah yang lebih kuat dan penilaian teknis independen, persyaratan pelaporan insiden yang konsisten, serta peningkatan koordinasi respons dan pemulihan.
OpenAI menyatakan bahwa laboratorium AI memiliki tanggung jawab untuk mengatasi risiko yang ditimbulkan sistem mereka dan membantu memperkuat pertahanan masyarakat. Pemerintah, tambahnya, juga harus memiliki keahlian, sumber daya, dan kewenangan untuk melindungi publik seiring kemajuan kemampuan AI. Perusahaan ini mendorong para pembuat kebijakan untuk bertindak sekarang, dengan menetapkan pengamanan, belajar dari pengalaman, dan memperkuat persyaratan seiring berkembangnya teknologi.
Sumber: OpenAI Blog · Diringkas oleh HeadlinesBriefing