Jika kekhawatiran tentang keamanan AI dan akhir dunia baru-baru ini masuk ke hidup Anda, itu mungkin karena surat pengunduran diri. Pada 8 September 2026, seorang peneliti bernama Jacob Coxon mengundurkan diri dari Anthropic, salah satu dari dua laboratorium AI terkemuka di AS yang mereknya telah berusaha menumbuhkan citra sebagai yang berhati-hati dibandingkan pesaingnya. Ia menghabiskan tiga tahun sebelumnya melakukan penelitian pra-pelatihan di Open AI dan kemudian di Anthropic, pekerjaan ruang mesin yang membuat model besar mampu, dan catatan perpisahannya mengatakan, antara lain: “Orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa itu bisa membunuh kita semua pada akhir dekade ini. Ini bukan gimmick pemasaran.” Ia pergi dua bulan sebelum ekuitasnya vesting dan meninggalkannya. Postingan itu dilihat lebih dari seratus juta kali dalam sehari. Rekan-rekannya, mengejutkan, tidak bergegas mengoreksinya. Evan Hubinger, yang memimpin ilmu penyelarasan di Anthropic, memposting dalam beberapa jam bahwa Coxon benar, bahwa mereka benar-benar dengan sungguh-sungguh percaya AI bisa membunuh semua manusia, dan bahwa peluang pribadinya berada di atas satu dari sepuluh dalam satu dekade. Lebih dari dua lusin anggota Kongres mengatakan sesuatu harus dilakukan. Elon Musk, yang sedang membangun laboratorium frontiernya sendiri, menyebut seluruh hal itu sebagai psy-op, dan media arus utama seperti yang diperkirakan memberikan liputan yang terengah-engah terhadap kegilaan yang menyusul.

Untuk mengevaluasi secara realistis keseriusan peringatan ini, kita perlu memahami orang-orang yang membuatnya. Suara-suara paling lantang yang memperingatkan tentang akhir dunia berasal dari subkultur internet berusia dua puluh lima tahun yang sangat spesifik, yang memahami dirinya sebagai komunitas orang-orang yang berpikir lebih jernih daripada orang lain. Di luar Silicon Valley, subkultur itu tampak obscure, sebuah fandom dengan preferensi sastra yang luar biasa culun. Di dalam industri teknologi, sama sekali tidak. Para penulisnya membuat atau menghancurkan reputasi. Para alumninya bekerja di laboratorium, lembaga keamanan, dan organisasi filantropi yang menentukan apa arti “keamanan AI”. Argumen, pernikahan, permusuhan, dan kecenderungan seksualnya sangat terjalin ke dalam struktur organisasi yang sekarang meminta kepercayaan publik tentang masa depan spesies.

Sepuluh bulan sebelum Coxon mengundurkan diri, pada Desember 2025, hampir lima ratus orang berkumpul di sebuah aula musik di Berkeley untuk sebuah upacara tentang kemungkinan berakhirnya umat manusia. Ada band live dan paduan suara dua puluh delapan orang. Ada bacaan liturgi. Saat lagu dan pidato membawa ruangan dari masa lalu manusia yang jauh menuju masa depannya yang tidak pasti, lampu gantung meredup satu per satu. Karyawan organisasi yang mencoba membangun, atau menahan, kecerdasan buatan hadir dalam jumlah besar. Pada titik paling gelap, penyelenggara duduk di tepi panggung, suaranya pecah, dan berkata kepada ruangan: “Kawan… aku tidak think kita akan berhasil.” Penyelenggaranya adalah Raymond Arnold, seorang pengembang web, desainer game, musisi, dan pembangun institusi komunitas rasionalis sejak lama. Dibesarkan antara Katolik dan ateisme, Arnold menemukan gerakan rasionalis saat dewasa muda dan menemukan bahwa itu “secara radikal memperluas” kapasitasnya untuk perasaan sakral. Pada 2011 ia mengundang sembilan belas teman ke sebuah apartemen di New York yang ditata untuk malam itu dengan lampu minyak, bola plasma, dan lightsaber untuk menguji beta liburan bagi pandangan dunia baru mereka. Mereka menyanyikan tentang api unggun musim dingin pertama dan teknologi yang membentuk masa depan umat manusia, memadamkan lilin terakhir, dan duduk bersama dalam kegelapan. Dua tahun kemudian Arnold mengubah eksperimen itu menjadi produksi publik bernama Brighter Than Today. Versi-versinya segera menyebar dari New York dan Bay Area ke kota-kota di seluruh Amerika Utara, Eropa, dan sekitarnya. Arnold awalnya membayangkan Solstice Sekuler sebagai liburan humanis yang luas, tetapi itu menjadi hari raya utama kalender rasionalis. Ini tidak sepenuhnya kebetulan. Ia telah mengorganisir komunitas sejak 2011, sekarang membantu menjalankan Less Wrong dan Lighthaven—kampus konferensi Berkeley yang berfungsi sebagai physi...