L'année dernière à la même époque, j'ai publié un cours Deeplearning.ai avec Andrew Ng sur la gouvernance des agents IA dans le but d'éduquer les développeurs sur les bases de la protection des données pour un déploiement efficace et responsable des agents. La motivation du cours provenait de l'étude de violation d'IBM de 2025, qui a révélé que 97% des organisations ayant subi une violation liée à l'IA manquaient de contrôles d'accès appropriés à l'IA, et 63% n'avaient aucune politique de gouvernance de l'IA. Un an est une éternité dans le développement de l'IA, et nous avons parcouru un long chemin depuis les agents sans gouvernance ou la lutte pour gouverner un seul agent. Les équipes sont maintenant confrontées à un nouveau défi de gouvernance : la prolifération des agents (la croissance incontrôlée d'agents IA autonomes au sein d'une organisation sans suivi, propriété ou gouvernance centralisés).
Selon Gartner, d'ici 2028, l'entreprise moyenne du Fortune 500 utilisera plus de 150,000 agents IA. Cependant, selon le cabinet, seulement 13% des organisations estiment avoir la bonne gouvernance des agents IA en place. Depuis l'année dernière, la capacité de déploiement est devenue plus facile que jamais. L'avènement d'agents de codage comme claude code et codex, ainsi qu'une variété d'options low-code/no-code, ont considérablement abaissé la barrière au déploiement d'agents. Un résultat est que les équipes sont maintenant confrontées à la possibilité que leur flotte d'agents s'engage dans une utilisation de jetons extrêmement gaspilleuse et entraîne des coûts imprévus.
Un autre défi sérieux est les voies supplémentaires par lesquelles les données sensibles peuvent fuir. Sans surprise, les défis de gouvernance ont évolué. Actuellement, je vois les clients construire des agents plus rapidement que jamais, et la forme du problème a changé. Il y a un an, nous nous sommes concentrés sur l'ajout des quatre piliers de la gouvernance à un seul agent : gestion du cycle de vie, gestion des risques, sécurité et observabilité. Nous savions déjà à l'époque que construire un agent n'était pas la partie difficile.
Maintenant, cela n'a pas changé, mais quel est le changement ? La différence est que cela se produit avec des dizaines d'agents/sous-agents en même temps. Les agents se multiplient plus vite que de nombreuses équipes ne peuvent les gouverner. Les équipes ont maintenant besoin d'être équipées d'une plateforme de données qui fait évoluer le suivi centralisé, les permissions et la gouvernance avec le nombre d'agents en cours de construction. Examinons comment les piliers de la gouvernance ont évolué en 2026.
Source: Towards Data Science · Résumé par HeadlinesBriefing