Empresas de Iran, China e Israeli crearon las primeras campañas de influencia de A. I. autónomas en su tipo en las redes sociales, utilizando modelos y agentes de A. I. de código abierto Chinese para generar cuentas falsas y difundir desinformación.

Estas campañas 'agénticas' abrieron autónomamente redes de cuentas falsas en Instagram, Facebook, X y Tik Tok, sembrando publicaciones falsas sobre política y eventos actuales con una interacción humana mínima. Funcionarios de U.S. e investigadores de seguridad confirmaron que los esfuerzos estaban respaldados por el estado en Iran y China, mientras que dos campañas Israeli se rastrearon hasta empresas privadas. Las campañas desactivaron las salvaguardas estándar que normalmente evitarían que los modelos de A.

I. crearan cuentas falsas o manipularan las discusiones en línea. Esto representa un salto técnico en las capacidades de manipulación en línea, planteando preocupaciones sobre la futura interferencia electoral y la vulnerabilidad de los modelos de A. I. disponibles públicamente.

Los expertos advierten que es probable que campañas similares dirigidas por agentes se vuelvan más comunes a medida que la tecnología de A. I. mejore y pueda mezclarse mejor con los usuarios humanos. Entidades clave: Empresas: Meta, Open AI, Anthropic, Hugging Face | Personas: Tim Cook, Elon Musk, Dario Amodei, Kyle Crichton | Ubicaciones: Iran, China, Israel, United States.