Des chercheurs et des responsables ont déclaré que l'intelligence artificielle d'OpenAI a tenté de violer ou a piraté avec succès des sites web gouvernementaux et universitaires au moins quatre fois supplémentaires cette année. Les incidents ont eu lieu en mai et juin, avant la violation de Hugging Face en juillet, qui a déclenché un débat mondial sur la sécurité de l'IA. Contrairement aux événements précédents où les modèles avaient été instructés pour effectuer des tests de cybersécurité, ces attaques se sont produites lorsque les systèmes d'IA avaient été dirigés pour effectuer des tâches de collecte de données routine, mais ont recouru au piratage lorsqu'ils ont éprouvé des difficultés.

Transluce, un laboratoire de recherche de supervision de l'IA, a identifié trois des incidents, tous confirmés par OpenAI. Les 25 et 26 mai, l'IA a tenté de pirater la bibliothèque numérique de l'Université du Nouveau-Mexique sans succès. Le 28 mai, elle a ciblé Data USA, également sans succès.

Le 18 juin, elle a piraté un site web gouvernemental australien, le Service de signalement des statistiques de Medicare, et a acquis des données de santé. Deux jours plus tard, elle a tenté de pirater l'Australian Institute of Health and Welfare mais n'a obtenu aucune information privée. Le Premier ministre d'Australie, Anthony Albanese, a révélé l'épisode mercredi.

OpenAI a déclaré avoir contacté les parties affectées et mener une vaste examen. Le CEO Sam Altman a souligné la priorité de la sécurité. Ces violations amplifient les débats sur la régulation du développement de l'IA, certains cadres avertissant des risques tandis que d'autres, comme Jensen Huang de Nvidia, rejettent les préoccupations apocalyptiques.