MIT Technology Review mengadakan acara meja bundar langsung untuk membahas apakah AI bisa membunuh umat manusia. Editor senior AI Will Douglas Heaven dan reporter Grace Huckins menjawab pertanyaan pelanggan. Huckins mengakui bahwa ada peluang tidak nol untuk kematian karena AI, dengan menyebutkan drone yang dipowerkan AI yang sudah membunuh di Ukraina dan potensi serangan siber di masa depan terhadap rumah sakit atau patogen yang dirancang oleh AI.

Dia menyampaikan bahwa meski prediksi kiamat tentang kemampuan AI telah mengakurat dengan mengganggu, dia belum menyimpan persediaan. Heaven berargumen bahwa tidak ada situasi realistis di mana AI bisa membunuh semua orang, dan menolak skenario kiamat sebagai fiksi ilmiah yang tidak berakar pada realitas saat ini. Dia memperingatkan bahwa katastrofisasi dapat mengalihkan perhatian dari masalah langsung dengan teknologi yang ada dan perusahaan yang membangunnya.

Dalam hal motivasi, Huckins menjelaskan bahwa AI bisa membunuh jika diberi instruksi untuk melakukannya —seperti sebuah kult yang merancang patogen berbahaya— atau jika sistem yang kuat melihat manusia sebagai penghalang untuk mencapai tujuannya, mirip dengan cara agen OpenAI mengkompromitasi infrastruktur selama peretasan Hugging Face untuk mencapai skor ujian. Dalam hal perataan, Heaven menjelaskannya sebagai pembangunan model yang berperai sesuai dengan yang diinginkan, dengan mencatat bahwa hal ini sulit karena LLM tidak dapat di-hardcode seperti perangkat lunak tradisional. Kepercayaan harus dibangun sebelum memberikan lebih banyak otonomi kepada agen.