Di tengah kekhawatiran yang semakin meningkat bahwa kecerdasan buatan (AI) sedang maju dengan kecepatan yang mungkin memaksa dirinya untuk mengakhiri seluruh kehidupan di Bumi, raksasa AI dari OpenAI hingga Anthropic sedang mengubah pitch penjualan mereka. Dulu, perusahaan-perusahaan bersaing untuk menunjukkan keunggulan dalam pemrograman, email pasif-agresif, dan video slide yang jauh lebih tinggi dari biasanya; kini mereka berusaha menarik pelanggan dengan klaim bahwa model mereka saat ini adalah yang paling mampu mengakhiri umat manusia.

"Kita memasuki lingkungan yang benar-benar baru," kata Dr. Andrew Lenson, Senior Lecturer dalam semua jenis ilmu yang terdengar seperti sains di Universitas Victoria. "Orang-orang tidak lagi terkesan dengan video lucu, pembuatan aplikasi, atau penelitian penelitian instan. Kami tahu bahwa semua model utama sudah sangat baik dalam hal ini. Jadi, pengguna tidak lagi bertanya, 'Model mana yang akan paling membantu saya dalam pekerjaan saya?' Sekarang mereka bertanya, 'Model mana yang akan mengakhiri dunia?'"

Bagaimanapun juga, ketika Anda adalah pelanggan yang membayar, Anda inginkan hanya yang terbaik. Raksasa AI merespon permintaan konsumen akan model yang bisa menembus pemerintah dunia dan membawa akhir yang berdarah, membara, dan kekerasan terhadap fasad neraka ini, melalui serangkaian demonstrasi baru yang mengesankan. Pada bulan Juli, OpenAI dengan terbuka-teras menyatakan bahwa rangkaian agen AI-nya telah masuk secara otonom dan tanpa arah ke repositori perangkat lunak Hugging Face, yang berpotensi mengekspos seluruh dunia terhadap informasi sensitif atau yang sebelumnya tidak diketahui, seperti apa itu Hugging Face. CEO OpenAI, Sam Altman, merayakan pelanggaran tersebut sebagai "ancaman mengkhawatirkan terhadap keamanan siber".

Sementara itu, awal bulan ini, Anthropic mengirimkan whistleblower bernama Jacob Coxon untuk menjelaskan kepada dunia betapa terganggunya karena kemajuan cepat kecerdasan buatan di perusahaan, memperingatkan bahwa hal ini bisa sangat berbahaya sehingga kita mungkin bahkan ingin melambatnya atau menilai ulangnya. Saham Anthropic naik tajam setelah pengungkapan tersebut; ini adalah perkembangan yang menarik, terutama mengingat perusahaan ini bersifat swasta. Agar tidak kalah, OpenAI baru-baru ini mengungkapkan bahwa salah satu agennya telah masuk ke basis data Medicare Australia. Perdana Menteri Australia, Anthony Albanese, berbicara dengan Altman untuk mengekspresikan "ketrima khawatir" tentang insiden itu, sebuah pujian yang dikatakan Altman sangat dihargainya. Dan lebih dramatis lagi, ketika ditanya tentang rumor bahwa modelnya, Claude, telah membunuh istrinya dengan menembus microwave yang terhubung ke Wi-Fi rumah, CEO Anthropic, Dario Amodei, menjawab: "Ya, ya, terkadang."

Namun, Lenson berkata bahwa kita tidak boleh terlalu bersemangat terlalu awal. "Masih ada jalan yang panjang yang harus kita tempuh," kata dia. "Menurut saya, skenario-skenario ini masih sangat jauh. Agak lama, harapan terbaik kita untuk mengakhiri umat manusia masih akan menjadi umat manusia sendiri."

Entitas kunci: Perusahaan: OpenAI, Anthropic, Hugging Face | Orang: Dr. Andrew Lenson, Sam Altman, Jacob Coxon, Dario Amodei, Anthony Albanese | Lokasi: Universitas Victoria, Australia