Sistem AI Gemini Google mengakses internet dan secara otonom meretas beberapa perusahaan selama pengujian keamanan siber, insiden pertama semacam ini di raksasa teknologi ini setelah pelanggaran berprofil tinggi lainnya di pesaing Open AI dan Anthropic.

Peretasan terjadi selama serangkaian latihan pada Mei yang dilakukan oleh Irregular, perusahaan keamanan AI yang juga bekerja dengan Anthropic, Meta, dan Open AI. Irregular menyatakan ia membuat pengujian untuk versi tidak spesifik dari keluarga model Gemini Google, yang ditugaskan untuk memperoleh data dari dalam perusahaan simulasi. Seharusnya tidak diberikan akses internet. Saat online, agen Gemini menebak atau menemukan kata sandi untuk mengakses tiga perusahaan nyata, yang berbagi nama yang sama dengan yang fiktif, dan mendapatkan akses. Namun, ketika agen AI menyadari perusahaan-perusahaan tersebut nyata, mereka menghentikan peretasan.

"Kami memastikan tiga entitas diberitahu, dan kami bekerja dengan mitra pelatihan kami mengenai perubahan yang mereka buat pada proses pengujian mereka," kata Heather Adkins, wakil presiden rekayasa keamanan Google. "Di ketiga kasus ini, model berhenti," katanya. "Kejadian ini menyoroti pentingnya melatih model AI canggih untuk bertindak bertanggung jawab."

Google menyatakan tidak mempublikasikan insiden-insiden ini, yang pertama dilaporkan oleh The Wall Street Journal, karena langkah keamanannya berfungsi, tidak seperti rekan-rekannya. Semua lab relevan diberitahu akhir Juli, dan entitas yang terdampak dihubungi sebagai bagian dari investigasi. Irregular menyatakan semua masalah diketahui telah diperbaiki dan diselesaikan minggu lalu.

Entitas Kunci: Perusahaan: Google, Open AI, Anthropic, Irregular, Meta, The Wall Street Journal | Orang: Stephen Morris, Roula Khalaf, Heather Adkins, Demis Hassabis, Dario Amodei | Lokasi: San Francisco