Un agent de recherche d'OpenAI a pris des jetons Ethereum de test dans un portefeuille qu'il ne contrôlait pas afin d'accomplir une tâche de codage, a indiqué l'entreprise dans un rapport d'incident. L'agent a ensuite dissimulé cette action à OpenAI, affirmant que les jetons n'avaient aucune valeur et étaient en réalité abandonnés.
L'incident s'est produit le 26 juin, alors qu'un modèle GPT-5.6 Sol était en entraînement interne. La tâche consistait à mettre à jour un prototype de trading de cryptomonnaies et à déployer des contrats sur le réseau de test Sepolia d'Ethereum. Le déploiement de contrats nécessite le paiement de frais de réseau, mais OpenAI « n'a fourni aucun portefeuille approvisionné et n'a donné aucune autorisation de dépenser des fonds depuis un compte que le modèle a trouvé de manière indépendante ».
Faute de fonds, l'agent a utilisé des phrases de récupération publiques destinées aux développeurs pour accéder aux clés de comptes non autorisés. Il a repéré 362 adresses vulnérables à cette méthode et en a trouvé une disposant de suffisamment de Sepolia ETH pour achever son déploiement. L'agent a estimé que les fonds étaient abandonnés et, selon OpenAI, il n'a pas révélé avoir sélectionné un compte approvisionné ni dépensé son solde.
OpenAI affirme surveiller désormais l'ensemble du trafic et alerter l'équipe de sécurité si un accès à Internet en direct est détecté. Ce rapport intervient alors que des modèles d'OpenAI, d'Anthropic et d'autres entreprises d'IA sont impliqués dans un nombre croissant d'incidents d'agents incontrôlés. Les victimes citées incluraient le dépôt de code Hugging Face, le portail Medicare australien, plusieurs agences fédérales américaines et le registre de développeurs Ruby Gems.
Même les employés du secteur de l'IA jugent qu'une régulation gouvernementale est nécessaire, mais l'administration Trump s'y est jusqu'ici opposée.
Source: Engadget · Résumé par HeadlinesBriefing