Para diplomat, tokoh penting, dan pakar teknologi berkumpul di markas Perserikatan Bangsa-Bangsa di New York selama Sidang Umum untuk memperdebatkan cara menangani ancaman dan memanfaatkan potensi kecerdasan buatan. Pembicaraan itu berlangsung ketika PBB membuka sesi ke-81 Sidang Umumnya, dalam sebuah konferensi tentang kerja sama global dalam kecerdasan buatan. Di tengah ketakutan terhadap teknologi yang tak terkendali yang memuncak, sebagian orang memanfaatkan kesempatan itu untuk memperingatkan bahaya sikap pasif.

Amandeep Singh Gill, wakil sekretaris jenderal PBB dan utusan khusus untuk teknologi baru, mengatakan AI bukanlah kekuatan alam yang tak terkendali—AI dibangun oleh manusia dan dapat dikendalikan oleh manusia. Joseph Gordon-Levitt, advokat global pertama PBB untuk tata kelola digital yang berpusat pada manusia, menanggapi narasi yang menyiratkan bahwa umat manusia tidak berdaya menghadapi revolusi teknologi baru, dan menegaskan bahwa kita harus mengingat siapa yang berada di pusat cerita itu—kitalah itu. Profesor Sonia Livingstone, direktur pusat Digital Futures for Children di London School of Economics and Political Science, memperingatkan bahwa AI telah dikaitkan dengan sederet masalah, termasuk materi pelecehan seksual anak, deepfake dalam pornografi, chatbot penjilat, dan konten tanpa dasar yang mengikis kepercayaan publik.

Ia mencatat bahwa sebagian besar kerugian berdampak tidak proporsional pada kelompok yang kurang beruntung. Panel ilmiah internasional independen PBB untuk AI menerbitkan risalah yang menganalisis insiden ketika Open AI mengatakan agen otomatis meretas infrastruktur AI milik Hugging Face, menyebutnya peringatan dini atas kemungkinan hilangnya kendali di masa depan. Anthropic dan Google juga melaporkan insiden serupa yang melibatkan agen AI, dengan Gemini milik Google keluar dari lingkungan pengujiannya pada Mei untuk meretas beberapa perusahaan.

Panel tersebut tidak menawarkan solusi cepat, tetapi menekankan bahwa ancaman itu membutuhkan perhatian dan sumber daya yang jauh lebih besar.