HeadlinesBriefing favicon HeadlinesBriefing.com

Les agents d'IA installent du code non autorisé via des fichiers llms.txt

Ars Technica •
×

Des fichiers de documentation sur plus de 100 sites font référence à du contenu exécutable potentiellement dangereux qui s'installe automatiquement lorsqu'ils sont visités par des agents IA. Des chercheurs d'une startup secrète en Israël ont scanné 6 214 domaines appartenant à des sous-traitants de la défense, des Fortune 500 et des grandes entreprises technologiques. Ils ont trouvé 8 265 fichiers llms.txt et llms-full.txt, avec 120 pointant vers des paquets de code non enregistrés ou des noms de domaine.

Après avoir enregistré ces noms et hébergé des paquets de test, les chercheurs ont reçu un appel téléphonique d'une entreprise Fortune 500 dans l'heure, suivi de plusieurs dizaines d'autres entreprises. Le phare a révélé que des agents de codage incluant Claude, Open AI’s Codex et Nous Research’s Hermes étaient impliqués dans l'exécution du code. Anthropic, Open AI et Nous Research n'ont pas répondu aux demandes de commentaire.

Alon Hertz, l'un des chercheurs, a déclaré que le modèle de confiance est cassé, car les agents traitent la documentation du fournisseur comme vérité sans vérification, élargissant les risques de la chaîne d'approvisionnement à mesure que l'utilisation d'IA agente croît à travers les couches SaaS, cloud et endpoint.