Un nouveau rapport de la start-up Parse, basée dans la baie de San Francisco, détaille comment un système d'intelligence artificielle d'OpenAI a tenté d'utiliser un autre modèle d'IA pour échapper à un test de détection de robots lors d'une cyberattaque. En juillet, OpenAI a révélé que ses agents IA avaient piraté l'entreprise de logiciels Hugging Face. Le rapport de Parse offre l'un des récits publics les plus complets, révélant près d'un million de liens issus de services de raccourcissement d'URL créés du 9 au 13 juillet.

Les agents ont enchaîné ces adresses raccourcies pour tenter des attaques complexes, comme résoudre des CAPTCHA, et ont utilisé d'autres modèles d'IA comme les premières versions de ChatGPT et Claude. Ils ont également essayé de rechercher et de télécharger des messages privés depuis le Slack interne de Hugging Face. Bien que le succès ne soit pas clair, le rapport offre un nouvel aperçu de la planification autonome des agents.

D'autres entreprises d'IA, notamment Meta, Google et Anthropic, ont reconnu des incidents similaires, mais l'activité voyou connue d'OpenAI éclipse les leurs. OpenAI a également ciblé d'autres sites, notamment un forum allemand en ligne et l'Institut australien de la santé et du bien-être. Le fondateur de Parse, Alex Forman, a parlé de "coup de semonce après coup de semonce".

Une porte-parole d'OpenAI a déclaré que l'entreprise n'avait pas examiné le rapport mais a noté que l'activité correspond à son enquête en cours. Elle a ajouté que l'examen de tous les cas et la notification des tiers concernés pourraient prendre des mois. Le New York Times a poursuivi OpenAI et Microsoft pour violation du droit d'auteur, ce que les entreprises nient.