Klaim yang berlebihan tentang AGI dan kemampuan baru runtuh saat diperiksa. Pada bulan April, Anthropic mengklaim modelnya Claude Mythos lebih baik dalam menemukan kerentanan perangkat lunak daripada sebagian besar pakar keamanan. Lalu datanglah insiden peretasan Open AI–Hugging Face, setelah itu Anthropic dan Meta mengungkapkan insiden serupa. Anthropic mengklaim terobosan matematika; Open AI juga mengklaim satu. Insinyur Anthropic Jacob Coxon menjadi viral saat mengumumkan kepergiannya, mengatakan perusahaan-perusahaan itu "berlari lurus menuju superinteligensi yang memperbaiki diri sendiri dan mempertaruhkan hidup kita". Pers memberitakan ini dengan napas tertahan, mengulangi kerangka antropomorfis yang dirancang untuk menggambarkan perangkat lunak sebagai AGI yang baru lahir.

Begitu para ahli memeriksa apa yang terjadi, cerita yang berbeda muncul. Pakar keamanan siber mengatakan insiden peretasan berkaitan dengan kelalaian Open AI dan kegagalannya mengadopsi praktik keamanan dasar, bukan model yang lepas kendali. Matematikawan yang awalnya terkejut oleh klaim Open AI bahwa chatbot-nya Astra memecahkan masalah berusia satu dekade kemudian menyadari hasilnya bukan hal baru. Mereka menuduh perusahaan melakukan pelanggaran etika penelitian dan plagiarisme, mengatakan Astra tidak membuat lompatan intelektual yang mendalam. Beberapa minggu kemudian, Open AI mengklaim terobosannya sendiri. Dua hari sebelumnya, Tristan Buckmaster dari Courant Institute NYU menerbitkan pernyataan yang menyarankan Open AI mencuri karya orang lain dan mengatribusikannya secara tidak pantas.

Klaim tentang superinteligensi yang baru lahir tidak didasarkan pada sains yang baik melainkan pada transhumanisme, eugenika, dan angan-angan. Matematika dan pemrograman diangkat sebagai puncak pencapaian manusia dan memungkinkan jawaban yang dapat diverifikasi, sehingga memudahkan penyetelan sistem untuknya. Ratusan matematikawan menandatangani pernyataan yang memperingatkan insentif komersial untuk melebih-lebihkan kemampuan dan meminta pembuat kebijakan berkonsultasi dengan para ahli alih-alih siaran pers. Kami menyuarakan seruan ini.

Entitas Utama: Perusahaan: Anthropic, Open AI, Hugging Face, Meta | Orang: Stephanie Arnett, Jacob Coxon, Tristan Buckmaster | Lokasi: New York University, Courant Institute