Gavin Newsom menandatangani perintah eksekutif yang mewajibkan lab AI seperti Open AI dan Anthropic menerapkan "kill switch", menandakan kekhawatiran politik yang meningkat. Perintah itu menugaskan para ahli menyusun langkah-langkah keamanan AI, termasuk mewajibkan kemampuan mematikan secara hukum. Newsom, calon presiden dari Partai Demokrat yang kemungkinan maju pada 2028, memperkeras sikapnya menjelang pemilu paruh waktu. "Sementara Washington melepaskan tanggung jawabnya untuk melindungi warga Amerika, California membangun di atas kerangka regulasi AI terkuat di negara ini," katanya.

Seruan untuk "kill switch" menyusul peringatan dari lab AI terkemuka AS untuk memperlambat pengembangan. Para ahli memperdebatkan kelayakan dan apakah AI canggih dapat mengatasi langkah tersebut. Presiden Donald Trump menolak memperlambat AI, dengan alasan AS harus mengalahkan China dan kekhawatiran keamanan berasal dari "kekuatan negatif". Ia telah berusaha memblokir regulasi AI tingkat negara bagian. Republikan lain, termasuk Ketua DPR Mike Johnson, menyerukan ketenangan dan menggema Trump soal China. Undang-undang "kill switch" federal kemungkinan tidak akan maju sebelum pemilu November.

Kekhawatiran ini menyusul pengunduran diri peneliti Anthropic Jacob Coxon, yang memperingatkan AI "bisa membunuh kita semua pada akhir dekade ini". Para pemimpin seperti Dario Amodei dari Anthropic, Sam Altman dari Open AI, dan Elon Musk dari Space X membuat seruan bersama yang langka untuk memperlambat kemajuan cepat kemampuan model setelah insiden peretasan. Amodei mengusulkan menyertakan penilai independen. Newsom mengatakan California akan mengkaji menjadikannya persyaratan hukum dan memiliki rencana keamanan pihak ketiga. Ia juga memerintahkan implementasi lebih cepat dua undang-undang keamanan AI California. Open AI menyambut langkah itu, berjanji bekerja dengan gubernur untuk "memajukan perlindungan yang kuat dan adaptif".

Entitas Utama: Perusahaan: Open AI, Anthropic, Space X, Financial Times | Orang: Gavin Newsom, Donald Trump, Mike Johnson, Jacob Coxon, Dario Amodei, Sam Altman, Elon Musk | Lokasi: California, Washington, China, US Congress