Muse, le nouvel agent d'IA polyvalent de Meta, peut exposer des informations sensibles lorsque les utilisateurs partagent des conversations via des liens web, ont indiqué lundi des chercheurs. Comme de nombreux services en ligne, Muse permet aux utilisateurs de partager recherches, conversations, images et contenus similaires au moyen d'une URL unique. Ces URL contiennent généralement une longue séquence de texte difficile à deviner, afin de tenir les informations sensibles à l'écart des regards non désirés. Le PDG de Meta, Mark Zuckerberg, a déclaré le mois dernier que Muse avait été « conçu dès le départ pour la confidentialité et la sécurité », et il semble appliquer les mêmes précautions. Cependant, un choix de conception dans la construction des liens les rend faciles à découvrir.
Des chercheurs de la société de sécurité Claroc affirment avoir énuméré 6 800 liens créés par des utilisateurs de Muse pour partager des conversations. Après en avoir ouvert quelques centaines, ils ont découvert des contenus manifestement non destinés au public, notamment les notes d'un candidat pour un appel confidentiel de recrutement de cadres avec un laboratoire d'IA de pointe, l'examen interne des revenus d'une entreprise nationale de marketing, la demande de prêt d'un petit entrepreneur, et une liste de tâches contenant une alerte de fraude bancaire avec un numéro de compte partiel. Parmi les autres fichiers exposés figuraient le rapport de performance d'un investisseur immobilier comprenant les adresses des biens et les chiffres exacts de rendement et d'hypothèque, ainsi que le calendrier complet des congés du personnel d'une entreprise pour toute l'année.
« Si vous nous aviez demandé avant, nous aurions supposé que rassembler ces éléments demanderait un réel effort, ont écrit les chercheurs. Il a suffi d'une seule requête. »
Ces liens sont faciles à trouver grâce aux services de recherche DNS passif, qui enregistrent les résolutions historiques de domaines une fois qu'un lien partagé a été cliqué. Tous les liens de partage de Muse utilisent le domaine cf.metaaiusercontent.com, ce qui les rend identifiables. L'ajout du nom de la conversation à chaque URL, comme loan-application-draft-a4c9e2.cf.metaaiusercontent.com, révèle davantage le contenu de chaque lien et rend leur découverte publique possible.
Source: Ars Technica · Résumé par HeadlinesBriefing