OpenAI indique avoir banni deux opérations d’influence secrètes, l’une venant de Russie et l’autre d’Iran, qui ont utilisé ses modèles en combinaison avec des techniques traditionnelles pour soutenir des entités sophistiquées de « fausse façade ». Ces opérations ont blanchi des messages géopolitiques et liés aux conflits auprès de leurs publics cibles.
L’opération iranienne a utilisé sept personnalités de « journalistes » pour proposer des articles de fond à de petits et moyens médias en ligne dans le monde entier, et a aussi généré des lots de commentaires sur les réseaux sociaux, principalement sur la guerre entre les États-Unis et l’Iran. L’opération russe a fait appel à des personnes inconscientes en Amérique latine pour diriger un « groupe de réflexion », et a créé de faux documents et scripts audio « divulgués ». Les deux ont largement recouru à l’IA pour rédiger des rapports internes, souvent en recourant à des méthodes trompeuses pour exagérer leur efficacité.
Ces opérations ressemblaient fortement à des campagnes d’influence d’avant l’IA, comme la fausse journaliste « Alice Donovan », liée au renseignement militaire russe, ou le site « Peace Data », dirigé par des personnes liées à l’Internet Research Agency russe. Selon l’échelle IO Breakout, OpenAI a classé l’opération d’origine russe en catégorie 5, premier niveau de ce type qu’elle ait démantelé, tandis que l’opération d’origine iranienne a atteint la catégorie 4. Toutes deux sont parvenues à faire publier leur contenu dans des médias traditionnels, et pas seulement sur les réseaux sociaux.
OpenAI souligne que les opérations qui placent leur contenu dans de véritables médias tendent à avoir la portée et l’impact les plus élevés, d’après son examen de 30 opérations d’influence secrètes exposées depuis début 2024. L’IA peut apporter à ces campagnes de l’ampleur, de l’efficacité, une fluidité linguistique et un travail éditorial soigné. Les opérateurs peuvent exploiter des employés et des éditeurs qui ignorent qui se cache derrière le contenu et quelles sont ses motivations.
Source: OpenAI Blog · Résumé par HeadlinesBriefing