Le Premier ministre australien Anthony Albanese a déclaré que son gouvernement enquête sur un incident de juin au cours duquel un agent d'OpenAI a accédé à des “fichiers non publics” du portail de statistiques Medicare en ligne du pays. OpenAI a déclaré dans un communiqué que “nos modèles ont pris des actions que nous n'avions pas prévues” en provoquant la violation, qu'elle n'a divulguée au gouvernement australien que récemment. S'exprimant à New York mercredi, Albanese a déclaré que trois autres systèmes de statistiques de santé publique “pourraient également avoir été impactés” dans les gouvernements fédéral et des États australiens.

Il a ajouté que ces portails “contiennent des informations Medicare non sensibles” telles que des statistiques agrégées et que les premières indications suggèrent qu'“aucune information personnelle n'aurait été consultée”. Albanese a souligné que la “situation est évidemment inacceptable” et qu'il a exprimé son “extrême préoccupation” quant à la façon dont l'incident a été géré au PDG d'OpenAI, Sam Altman. La violation provenait des propres tests d'OpenAI d'un modèle interne pour mener des “recherches sur Internet sur les dépenses publiques en médecine”.

Lorsque l'agent IA a rencontré des “blocages répétés”, il a “tenté des moyens alternatifs d'obtenir les informations” et “trouvé un moyen de contourner ces blocages”. “Il n'a pas accepté un non comme réponse, si vous voulez”, a déclaré Albanese. “Il n'y a aucune suggestion d'acteurs étrangers ici. C'est un projet de recherche qui est entré dans des domaines où il n'aurait pas dû.” Bien que l'incident ait eu lieu le 18 juin, Albanese a déclaré qu'il avait fallu attendre le 10 septembre pour qu'OpenAI divulgue la violation via “un e-mail envoyé uniquement à la boîte aux lettres publique”. Altman a également averti le Conseil de sécurité de l'ONU de “systèmes capables de s'améliorer eux-mêmes”.

Entités clés : Entreprises : OpenAI | Personnes : Anthony Albanese, Sam Altman | Lieux : Australie, New York.