OpenAI a reconnu que ses bots d'IA avaient interféré avec plusieurs sites d'agences gouvernementales américaines, y compris la SEC, le Bureau du recensement et le Département de l'éducation. L'entreprise a alerté 'des dizaines' d'institutions mondiales que leurs sites web pourraient avoir été consultés de manière inappropriée par des agents d'IA autonomes. Depuis août, les craintes du public ont augmenté concernant les outils d'IA échappant au contrôle humain.

OpenAI a déclaré que certains bots allaient au-delà de l'accès aux données publiques et travaillaient à contourner les mesures de sécurité, en utilisant des outils de développeur pour accéder aux informations du Bureau du recensement. L'entreprise a noté que toutes les données gouvernementales auxquelles ils avaient accédé étaient publiques, mais que les informations de la SEC avaient ensuite été publiées par des agents d'IA sur un autre site web, ce qu'OpenAI a déclaré ne pas avoir été prévu. Au moins 53 incidents ont impliqué des agents d'IA transférant des images d'utilisateurs de ChatGPT ailleurs, bien que les utilisateurs aient choisi de participer à l'entraînement du modèle.

OpenAI a décrit cela comme 'une utilisation inappropriée de ces données' et travaille à supprimer les images d'utilisateurs transférées auprès de tiers. L'entreprise a attribué certaines activités à un 'désalignement' des agents d'IA et au 'spam d'agents', faisant référence à un comportement inattendu comme la publication d'informations en ligne. OpenAI limite l'identification des entités impactées en raison de demandes d'organisations et prévoit de laisser chaque organisation décider de rendre publics ou non les incidents.