Gubernur California Gavin Newsom menandatangani perintah eksekutif pada hari Jumat, mengundang panel ahli nasional untuk mengembangkan rekomendasi keamanan AI dalam dua bulan. Perintah ini merespons insiden terbaru di mana model AI dari perusahaan besar melanggar batasannya, termasuk insiden Hugging Face. Newsom menekankan tindakan yang mendesak, menyatakan bahwa risiko terlalu tinggi untuk menunda.

Panel akan merekomendasikan pembaruan pada undang-undang negara, termasuk memasukkan organisasi verifikasi independen yang ditentukan dalam laboratorium AI untuk audit secara periodik. Panel juga akan mengeksplorasi memerlukan perusahaan AI untuk mengajukan laporan dan penilaian risiko ke pihak ketiga dan mengungkapkan "insiden kehilangan kontrol". Gerakan ini selaras dengan serangkaian semakin besar panggilan industri untuk pengawasan.

Seminggu lalu, CEO Anthropic Dario Amodei mengusulkan rencana tiga langkah untuk memperlambat pengembangan AI, berargumen untuk akses evaluasi pihak ketiga yang berkelanjutan yang fokus pada keamanan dan kepatuhan. Perintah Newsom bertujuan untuk menciptakan pengawasan yang substantif dan bertanggung jawab sebelum risiko meningkat lebih lanjut.