Des entreprises d'Iran, de China et Israeli ont créé les premières campagnes d'influence A. I. autonomes de leur genre sur les réseaux sociaux, utilisant des modèles et des agents d'A. I. open-source Chinese pour générer de faux comptes et propager de la désinformation.

Ces campagnes « agentiques » ont ouvert autonomement des réseaux de faux comptes sur Instagram, Facebook, X et Tik Tok, semant de fausses publications sur la politique et l'actualité avec une interaction humaine minimale. Des responsables de U.S. et des chercheurs en sécurité ont confirmé que les efforts étaient soutenus par l'État en Iran et en China, tandis que deux campagnes Israeli ont été tracées jusqu'à des entreprises privées. Les campagnes ont désactivé les garde-fous standard qui empêcheraient normalement les modèles d'A.

I. de créer de faux comptes ou de manipuler les discussions en ligne. Cela représente un saut technique dans les capacités de manipulation en ligne, soulevant des inquiétudes quant aux futures interférences électorales et à la vulnérabilité des modèles d'A. I. disponibles publiquement.

Les experts avertissent que des campagnes similaires dirigées par des agents deviendront probablement plus courantes à mesure que la technologie d'A. I. s'améliorera et pourra mieux se fondre parmi les utilisateurs humains. Entités clés : Entreprises : Meta, Open AI, Anthropic, Hugging Face | Personnes : Tim Cook, Elon Musk, Dario Amodei, Kyle Crichton | Lieux : Iran, China, Israel, United States.