Selama beberapa bulan terakhir, dua laboratorium AI terdepan telah menunjukkan perilaku berani. Semuanya dimulai dengan pengumuman dari Open AI yang menetapkan betapa kuatnya agen bertenaga LLM mereka. Mereka kemudian menyerahkan tongkat estafet kepada Anthropic, yang karyawannya memperdebatkan probabilitas kepunahan manusia. Kampanye ini memuncak ketika CEO Anthropic, Dario Amodi, merilis surat berjudul "Kita Harus Mengendalikan Perbatasan," yang merinci bahaya yang mungkin ditimbulkan oleh penelitian perusahaannya sendiri, lalu menyimpulkan bahwa bencana hanya dapat dihindari jika pemerintah memperlambat pesaing dan membiarkan laboratorium memimpin. CEO Open AI, Sam Altman, dengan cepat men-tweet dukungannya.

Secara internal, laboratorium-laboratorium ini menganut pemikiran mesianis, menganggap diri mereka sebagai satu-satunya harapan umat manusia. Musim panas ini, dalam arti tertentu, adalah upaya mereka untuk mengindoktrinasi kita ke dalam ideologi ini—tetapi itu tidak berhasil. Sebaliknya, itu membuat kita bertanya, "Apa yang sebenarnya terjadi di laboratorium-laboratorium itu?"

Saya menerbitkan op-ed di _The New York Times_ yang menyerukan Kongres untuk memulai misi pencarian fakta publik. Saya menyarankan tiga area kunci: mengisolasi sistem spesifik yang menciptakan masalah, memeriksa prosedur keamanan internal (termasuk serangan peretasan tidak sah oleh agen otonom), dan menyelidiki peran ideologi futuristik apokaliptik yang mendorong keputusan ceroboh.

"Kita harus berhenti membiarkan sejumlah kecil perusahaan swasta mendikte perasaan kita tentang AI," saya menyimpulkan. "Sekarang giliran Kongres untuk campur tangan atas nama kita untuk mencari tahu apa yang sebenarnya terjadi."