Mungkinkah AI memicu krisis keuangan? Pertanyaan itu membayangi New York selama UN General Assembly. Sementara sejumlah investor mengkhawatirkan gelembung saham AI atau gagal bayar utang pusat data, banyak peserta UNGA mengangkat pertanyaan lain: mungkinkah manusia yang berniat jahat menggunakan AI untuk melancarkan serangan siber yang menghancurkan pasar keuangan? Bill Gates mengatakan AI adalah teknologi “jauh” paling berbahaya yang pernah diciptakan dan menginginkan pemerintah serta perusahaan teknologi memasang sistem pemantauan. “Hotline” China-US merupakan langkah kecil, tetapi masih banyak hal yang diperlukan.

Di luar pandangan publik, para pengawas memperdebatkan cara mengatasi risiko keuangan dari AI, termasuk menggunakan sendiri sistem AI agen. Pada pertemuan regulasi digital di Cambridge, yang convened bersama oleh Agustín Carstens dan Ashley Alder, hampir 300 teams memasuki hackathon global pertama “Agentic Regulator”. Tiga pelajaran muncul. Para pengawas tidak dapat menunggu politisi, karena AI bergerak lebih cepat daripada lembaga legislatif. Mereka harus kreatif dengan kewenangan yang ada.

Para regulator juga perlu memikirkan ulang “explainability”. Karena transparansi sulit ditegakkan, banyak yang beralih ke pelacakan hasil model AI, memasang pengaman seperti kill switch, dan memperjelas pertanggungjawaban hukum. Di America, Scott Bessent telah memanggil para bankir untuk membahas Anthropic’s Claude Mythos AI model dan kerentanan siber. Bank of England akan mengawasi perusahaan cloud sebagai “critical third parties”, sementara BIS menjalankan eksperimen inovasi. Memecah silo regulasi sangat mendesak.

Entitas Utama: Perusahaan: Microsoft, Gates Foundation, Bank for International Settlements, Financial Conduct Authority, Anthropic, Bank of England, BIS | Orang: Gillian Tett, Bill Gates, Agustín Carstens, Ashley Alder, Scott Bessent | Lokasi: New York, UN General Assembly, UNGA, China, US, Cambridge, America, UK