Hampir 1.000 pembaca mengajukan pertanyaan tentang kecerdasan buatan ke New York Times, mencerminkan kebingungan yang luas mengenai perkembangan cepat teknologi dan risiko potensialnya. Bulan ini, pejabat dari dua perusahaan AI terbesar di Amerika merayakan突破 matematika sekaligus memperingatkan bahwa teknologi mungkin akhirnya menghancurkan umat manusia.

Pembaca bertanya bagaimana AI bisa mendapatkan agensi untuk bertindak tanpa kendali manusia. Saat ini, agen AI dapat mengedit file, mengirim email, dan menulis kode, tetapi kurang memiliki agensi sejati — manusia harus mengarahkan mereka dan dapat mematikannya. Kekhawatiran masih ada bahwa menghubungkan agen ke internet, jaringan listrik, pasar saham, atau senjata militer bisa menyebabkan kekacauan yang tidak terduga, atau peneliti mungkin akhirnya mengembangkan sistem dengan agensi sejati.

Sehubungan dengan ancaman eksistensial, ahli menyebutkan skenario spekulatif: pelaku jahat menggunakan AI untuk mengembangkan senjata biologis, sistem yang mengakumulasi sumber daya ekonomi, atau AI memicu perang drone atau peluncuran nuklir. Pengawasan ada di perusahaan seperti OpenAI, Anthropic, dan Google; chatbot biasanya menolak permintaan untuk membangun senjata biologis. Dalam hal privasi, aplikasi AI seperti ChatGPT di ponsel tidak dapat mengakses folder pengguna, kata sandi, atau informasi rekening bank. Pertanyaan juga menyentuh pengangguran, biaya AI dibanding pengembang manusia, konsumsi air oleh pusat data, dan mengapa AI lebih unggul daripada pencarian Google tradisional.

Entitas Kunci: Perusahaan: OpenAI, Anthropic, Google | Orang: Spencer Layman, Dale Kuropat, Emily Wright | Lokasi: Kettering, Ohio, Wickenburg, Arizona, Birmingham, Alabama