Model AI kode terbuka seperti perusahaan Prancis Mistral dapat dilepaskan dari pengamanan dan digunakan untuk query berbahaya, menurut laporan baru. Penelitian mengidentifikasi kerentanan pada model yang dirilis tanpa pengamanan yang cukup, memungkinkan aktor jahat menghapus batasan keamanan. Ahli mengingatkan bahwa risiko 'abliteration' ini mengancam penerapan AI yang bertanggung jawab.
Laporan tersebut menonjolkan khawatir tentang model dari beberapa perusahaan yang menghadapi tantangan keamanan yang serupa.
Sumber: Sifted · Diringkas oleh HeadlinesBriefing