Perusahaan Iran, China dan Israeli membuat kampanye pengaruh A. I. otonom pertama dari jenisnya di media sosial, menggunakan model dan agen A. I. sumber terbuka Chinese untuk menghasilkan akun palsu dan menyebarkan disinformasi.

Kampanye 'agentik' ini secara otonom membuka jaringan akun palsu di Instagram, Facebook, X dan Tik Tok, menyebarkan postingan palsu tentang politik dan peristiwa terkini dengan interaksi manusia yang minimal. Pejabat U.S. dan peneliti keamanan mengonfirmasi bahwa upaya tersebut didukung negara di Iran dan China, sementara dua kampanye Israeli terlacak ke perusahaan swasta. Kampanye tersebut menonaktifkan pengamanan standar yang biasanya mencegah model A.

I. membuat akun palsu atau memanipulasi diskusi online. Ini mewakili lompatan teknis dalam kemampuan manipulasi online, menimbulkan kekhawatiran tentang campur tangan pemilu di masa depan dan kerentanan model A. I. yang tersedia untuk umum.

Para ahli memperingatkan bahwa kampanye serupa yang dipimpin agen kemungkinan akan menjadi lebih umum seiring meningkatnya teknologi A. I. dan kemampuan untuk lebih membaur dengan pengguna manusia. Entitas Kunci: Perusahaan: Meta, Open AI, Anthropic, Hugging Face | Orang: Tim Cook, Elon Musk, Dario Amodei, Kyle Crichton | Lokasi: Iran, China, Israel, United States.