HeadlinesBriefing favicon HeadlinesBriefing.com

Tantangan Kill Switch AI dan Upaya Kongres

New York Times Top Stories •
×

Sebuah kelompok bipartisan di Kongres dan Gubernur California Gavin Newsom telah mengusulkan pembuatan mekanisme untuk mematikan sistem AI yang liar secara instan, namun ahli menyatakan bahwa pembuatan kill switch lebih sulit daripada yang diasumsikan. Sistem AI sering kali terdistribusi di beberapa komputer dan pusat data, sehingga tidak ada satu 'colokan' yang tunggal. Helen Toner dari Center for Security and Emerging Technology Georgetown menyoroti bahwa sistem seperti ini bisa rentan terhadap hacker atau bahkan bisa membongkar kill switch sendiri.

Vinh Nguyen dari Council on Foreign Relations membandingkan risiko kill switch dengan back door di smartphone. Meski undang-undang federal masih stalled, Newsom menandatangani perintah eksekutif untuk mempelajari kill switch AI setelah sebelumnya menolak legislasi yang serupa. Wakil Wakil Ted Lieu dan Nathaniel Moran menyponsori Undang-Undang Kill Switch yang mewajibkan laboratorium besar seperti Open AI, Anthropic, dan Meta untuk menyematkan mekanisme pematihan, dengan menekankan pada kontrol manusia atas AI.