OpenAI a banni des comptes utilisant l'IA pour soutenir les flux de travail d'arnaques romantiques, y compris la prospection, la traduction, l'engagement des victimes et les leurres de fraude à l'investissement. Depuis qu'elle a commencé à signaler les perturbations de réseaux d'arnaques, OpenAI a démantelé de nombreuses opérations dans le monde, y compris des arnaques aux "tâches" et des arnaques à l'investissement.

Les arnaques romantiques existent avant l'IA, les escrocs se faisant passer pour des partenaires romantiques pour extorquer de l'argent à leurs cibles. La première perturbation d'arnaque publiée par OpenAI ciblait une opération criminelle au Cambodge qui utilisait ChatGPT pour générer des messages d'arnaque romantique diffusés sur les réseaux sociaux.

Ces arnaques suivent un schéma commun d'abus de l'IA : le ping (contact à froid), le zing (générer de l'émotion) et le sting (extraire de l'argent). Le ping utilise du contenu généré par IA pour attirer les cibles — comme l'arnaque "abattage de porc" qui a ciblé des hommes américains dans la quarantaine dans des professions médicales via des réponses sur les réseaux sociaux liées au golf. Le zing génère du contenu manipulatoire émotionnellement. Le sting convainc les cibles de remettre de l'argent via de faux investissements, des crises d'entreprise ou des gains de tâches fictifs.

Les réseaux de distribution s'étendent sur SMS, applications de messagerie chiffrée, publications sur réseaux sociaux et publicités en ligne. Des opérations comme "Mauvais Numéro", exposées en juin 2025, ont utilisé des SMS d'appels à froid avec des rendements implausiblement élevés pour créer une manipulation émotionnelle.

Entités clés : Entreprises : OpenAI | Lieux : Cambodge