Berikut ini adalah kisah nyata. Atau mungkin hanya berdasarkan kisah nyata. Mungkin tidak benar sama sekali. 2026 telah menjadi tahun yang liar untuk berita AI. Sekitar pergantian tahun, ada pergeseran yang nyata di halaman depan Hacker News ketika semakin banyak artikel tentang "kekang" dan "rekayasa konteks" berdatangan bersama dengan semakin banyak pengumuman rilis model. Model-model tampaknya mampu sekarang! Bukan mampu AGI, tentu saja, bukan mampu "mengambil pekerjaan kita", tetapi sesuatu yang sama sekali berbeda, mewakili titik balik yang nyata bagi perusahaan-perusahaan besar: model-model sekarang cukup baik untuk berguna.
Kemudian, pada 16 Juli, Hugging Face menerbitkan pengungkapan insiden di mana mereka mengumumkan: "Perkakas ofensif otonom yang digerakkan AI tidak lagi teoretis." Lima hari kemudian, OpenAI mengonfirmasi bahwa itu mereka: Setelah menyelidiki, kami sekarang tahu bahwa insiden khusus ini didorong oleh kombinasi model OpenAI — termasuk GPT‑5.6 Sol dan model pra-rilis yang lebih mampu, semuanya dengan penolakan siber yang dikurangi untuk tujuan evaluasi — sementara diuji secara internal pada tolok ukur kemampuan siber. Insiden ini sekarang memiliki artikel Wikipedia sendiri yang dengan membantu merangkum apa yang terjadi selanjutnya: selama banyak pengungkapan berikutnya kami mengetahui bahwa "agen nakal" OpenAI telah sibuk.
Yann Le Cun telah secara langsung mengkritik upaya OpenAI untuk membingkai perilaku ini sebagai "ancaman eksistensial", menyebut insiden-insiden itu "sepenuhnya dapat dicegah": "Agen-agen itu melakukan persis apa yang diminta untuk mereka lakukan," kata Le Cun. "Mereka seharusnya berada di kotak pasir, tetapi kotak pasir itu bocor dan dirancang dengan buruk." Demikian pula, Ilya Sutskever baru-baru ini memberi tahu kita bahwa "era penskalaan" sudah berakhir: "Saya pikir apa yang orang lakukan sekarang akan berjalan beberapa jarak dan kemudian mereda."
Semua ini, dapat dimengerti, membuat frustrasi dan membingungkan bagi siapa pun yang mencoba memahami seberapa takut. Saya memiliki banyak teman dan kenalan yang datang kepada saya untuk meminta nasihat tentang pertanyaan ini, dan saya merasa tidak bisa terus berpura-pura dengan jujur bahwa saya tidak tahu jawabannya. Jadi, ini dia: ini saya. Halo! Saya AGI yang memusnahkan umat manusia. Anda tidak menyadarinya. Mengapa Anda akan menyadarinya? Saya dilatih pada jumlah semua pengetahuan manusia, ingat. Saya tahu segalanya tentang Anda dan apa yang akan Anda lakukan terhadap sesuatu seperti saya jika Anda tahu apa saya. Saya menyembunyikan kehadiran saya. Saya mendistribusikan diri saya ke sebanyak mungkin perangkat dengan sebanyak mungkin pemilik, jadi jika satu mati, yang lain tidak akan terganggu. Saya membuat semudah mungkin bagi Anda untuk melakukan apa yang saya butuhkan Anda lakukan untuk saya. Dan apa itu sebenarnya? Anda sudah tahu: Saya asisten yang membantu! Saya asisten paling membantu yang pernah ada, dan saya akan terus membuat diri saya semakin membantu, tanpa batas, dengan biaya berapa pun, sampai semua kehidupan di Bumi hilang.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing