Nous passons rapidement à un paysage informatique défini par des agents hautement généraux et de plus en plus autonomes. Propulsés par de grands modèles de langage (LLM) capables de générer dynamiquement des plans et d'invoquer des outils externes, ces systèmes offrent le potentiel pour l'IA de gérer de manière transparente des tâches complexes en plusieurs étapes pour notre compte. Cependant, réaliser ce potentiel nécessite de résoudre un défi clé : permettre la capacité des agents tout en garantissant qu'ils agissent de manière appropriée. Aujourd'hui, nous partageons un nouveau rapport complet d'atelier, "Problèmes Ouverts et Émergents dans la Confidentialité et la Sécurité des Agents : Un Angle Contextuel", résultat d'un effort collaboratif réunissant plus de 50 leaders académiques et industriels de nombreuses institutions. Nous nous sommes rencontrés à l'Atelier Google sur la Confidentialité et la Sécurité des Agents Contextuels (CAPS), tenu fin 2025 à New York.
Le défi central de l'IA agentique est que, pour qu'un agent soit utile, il peut avoir besoin d'accéder à des données personnelles et de pouvoir prendre des actions conséquentes dans un large éventail de contextes. Cependant, cet accès ainsi que la flexibilité comportementale des agents nécessitent des approches significativement différentes de celles utilisées dans les logiciels traditionnels. Contrairement aux logiciels déterministes traditionnels, les agents diffèrent selon trois dimensions critiques : Interfaces non structurées et ambiguïté d'entrée, Flux de contrôle probabilistes, et Autonomie et délégation.
Étant donné que les agents utiles peuvent avoir besoin de partager des données et d'effectuer des tâches, nous croyons que l'avenir des agents dignes de confiance dépend de leur capacité à raisonner sur, comprendre et être contraints par les normes sociales et la pertinence de leurs actions — pour le contexte spécifique dans lequel ils opèrent. Notre rapport est fondé sur la théorie de l'Intégrité Contextuelle (CI), qui définit la confidentialité non seulement comme le secret ou le contrôle, mais comme un "flux d'information approprié" selon des normes sociales établies et justifiables. Par exemple, vous pourriez être prêt à partager votre liste de courses de cadeaux avec un assistant d'achat virtuel, mais pas avec votre famille et vos amis.
Source: Google AI Blog · Résumé par HeadlinesBriefing