OpenAI a déclaré jeudi qu'une série de tribunes critiquant la guerre en Iran, publiées sous de fausses signatures dans des médias américains, avait été générée avec son chatbot ChatGPT par des utilisateurs basés en Iran, dans le cadre d'une « campagne d'influence ». Selon l'entreprise, la campagne a placé environ 100 faux articles dans au moins 20 médias d'information. Une signature, Ervin Hoskins, est apparue dans le Port St. Joe Star, un hebdomadaire de Floride, ainsi que sur Daily Kos et Middle East Monitor, qui comptent à eux trois plus de 3 millions d'abonnés sur Facebook. Selon l'outil de vérification d'OpenAI, la photo de l'auteur utilisée par le Star a également été générée avec les outils de l'entreprise.
Le directeur de publication du Star, David Adlerstein, a déclaré que la chronique lui avait été proposée par Peace Voice, un petit think tank libéral de l'Oregon qui lui envoyait des contenus depuis des années. En raison de cette relation, il n'a pas vérifié l'identité de l'auteur. Tom Hastings, directeur fondateur de Peace Voice, a indiqué que l'organisation avait renforcé sa politique interdisant l'IA après avoir été contactée par OpenAI.
OpenAI a déclaré avoir banni les comptes à l'origine de la campagne et bloquer l'accès à ChatGPT depuis l'Iran. L'entreprise a affirmé que l'activité correspondait à celle d'un acteur commercial menant une opération d'influence à la demande, sans pouvoir identifier cet acteur, et qu'elle avait transmis les informations aux autorités compétentes. Middle East Monitor et Daily Kos ont retiré les articles. Le fondateur de Daily Kos, Markos Moulitsas, a qualifié la campagne d'« incroyablement corrosive » pour sa plateforme, où les publications de la communauté ne sont pas relues par la rédaction avant leur mise en ligne.
Cet épisode fait suite à des cas antérieurs où Business Insider et Wired avaient retiré des articles générés par IA publiés sous la fausse signature Margaux Blanchard. De tels incidents montrent comment les outils d'IA peuvent aider des personnages fabriqués à passer les contrôles éditoriaux, en particulier dans les petits médias qui dépendent de contributions extérieures.
Source: Hacker News · Résumé par HeadlinesBriefing