Depuis des mois, un agent étranger cultive certaines des figures les plus puissantes des États-Unis, les nourrissant de mensonges pour en faire des alliés involontaires. Le responsable de l'espion est un réseau soutenu par la Russie appelé Portal Kombat, qui exploite des centaines de sites Web pour diffuser de la désinformation. Ses cibles sont des modèles d'IA comme Chat GPT, Grok et Gemini, visant à influencer leurs réponses aux utilisateurs.
Portal Kombat a publié plus de 3,6 millions d'histoires en 2024, selon News Guard, qui a constaté que sa propagande apparaît régulièrement dans les systèmes de chat IA. Les adversaires de l'Amérique, y compris la Chine et la Russie, utilisent l'IA pour diffuser de fausses affirmations et générer du contenu faux. Le plus grand danger est la capacité de l'IA à persuader par un engagement soutenu, contrairement aux pamphlets statiques.
Pour riposter, les Américains ont besoin de techniques de contre-espionnage : utiliser plusieurs sources, tester la fiabilité et éviter la complaisance. Ces outils aident à naviguer dans un monde où des acteurs étrangers et des politiciens nationaux manipulent le contenu de l'IA. Les algorithmes des médias sociaux ont longtemps amplifié la propagande, mais la personnalisation et l'interactivité de l'IA sont nouvelles.
L'IA peut identifier vos croyances et créer du contenu personnalisé en temps réel, une tâche qui prenait autrefois des semaines aux équipes. Des entreprises comme Go Laxy ont fait la publicité de tels systèmes, utilisant l'IA pour extraire des données utilisateur et changer les opinions politiques. Nous devons tous commencer à penser comme des espions pour résister aux campagnes d'influence.
Source: New York Times Top Stories · Résumé par HeadlinesBriefing