OpenAI a banni un ensemble de comptes Chat GPT liés au réseau “Rybar” (“Рыбарь”, en russe, “pêcheur”) sur Telegram et X. Au moins certains provenaient probablement de Russie. Le réseau générait du contenu pour des sites web et des plateformes sociales, parfois via des comptes estampillés “Rybar” et parfois via des comptes sans lien déclaré avec “Rybar”. Un utilisateur a également demandé à Chat GPT d'élaborer des plans commerciaux au nom de “Rybar” pour des campagnes d'ingérence secrètes en Afrique.

Les utilisateurs formulaient généralement leurs requêtes en russe mais généraient du contenu en russe, anglais et espagnol. Certains apparaissaient sur des comptes estampillés “Rybar” et sur le site principal de “Rybar” ; un utilisateur a également généré des vidéos Sora promouvant la marque “Rybar”. Des techniques d'investigation en source ouverte ont trouvé des correspondances linguistiques exactes entre les commentaires générés et les publications sur le canal Telegram de Rybar, ainsi que sur des comptes X et Telegram sans lien déclaré avec Rybar. L'activité de Chat GPT servait de ferme de contenu, bien qu'OpenAI n'ait pas pu confirmer comment le contenu était finalement publié.

Dans un lot, sept tweets ont été générés à partir d'une seule requête, et six ont été identifiés sur différents comptes X. Le tweet le plus vu a dépassé 150 000 vues, tandis que le moins vu en a eu 57. OpenAI a baptisé l'opération “Fish Food”.