Empresas de Iran, China e Israeli criaram as primeiras campanhas de influência de A. I. autônomas do seu tipo nas redes sociais, usando modelos e agentes de A. I. de código aberto Chinese para gerar contas falsas e espalhar desinformação.

Essas campanhas 'agênticas' abriram autonomamente redes de contas falsas no Instagram, Facebook, X e Tik Tok, semeando postagens falsas sobre política e eventos atuais com interação humana mínima. Funcionários de U.S. e pesquisadores de segurança confirmaram que os esforços foram apoiados pelo estado no Iran e na China, enquanto duas campanhas Israeli foram rastreadas até empresas privadas. As campanhas desativaram as salvaguardas padrão que normalmente impediriam os modelos de A.

I. de criar contas falsas ou manipular discussões online. Isso representa um salto técnico nas capacidades de manipulação online, levantando preocupações sobre a futura interferência eleitoral e a vulnerabilidade dos modelos de A. I. disponíveis publicamente.

Especialistas alertam que campanhas semelhantes lideradas por agentes provavelmente se tornarão mais comuns à medida que a tecnologia de A. I. melhore e consiga se misturar melhor com os usuários humanos. Entidades principais: Empresas: Meta, Open AI, Anthropic, Hugging Face | Pessoas: Tim Cook, Elon Musk, Dario Amodei, Kyle Crichton | Locais: Iran, China, Israel, United States.