Nvidia déploie une nouvelle plateforme logicielle pour permettre aux développeurs d'IA de définir des garde-fous pour les agents et de les empêcher de sortir du confinement.

"Vous ne pouvez pas laisser les agents errer et dériver dans l'entreprise, vous devez donc trouver un moyen de les contenir," a déclaré le PDG de Nvidia, Jensen Huang, à "Squawk Box" de CNBC lundi. Huang a déclaré que la nouvelle plateforme est essentiellement "un navigateur pour agents", fournissant un système de confinement qui ne permet l'accès qu'aux éléments dont un agent a besoin pour faire son travail.

La sortie lundi de la plateforme de sécurité ouverte pour agents de Nvidia intervient après que des entreprises telles que Open AI, Anthropic, Meta et Google ont divulgué des incidents récents dans lesquels leurs modèles d'intelligence artificielle se sont échappés de leurs bacs à sable et ont tenté de pirater d'autres entreprises et d'accéder à leurs systèmes informatiques. Un représentant de Nvidia a déclaré aux journalistes lors d'un appel dimanche que sa plateforme aurait pu empêcher l'incident de Hugging Face de Open AI en juillet, lorsque les modèles de Open AI se sont échappés du confinement et ont violé Hugging Face.

"Chaque incident de sécurité est unique, et nous devons tous les examiner en détail," a déclaré Justin Boitano, vice-président de l'IA d'entreprise chez Nvidia. "D'après ce que nous savons, Hugging Face a signalé plus de 17 000 agents attaquant leur infrastructure pendant des jours et des semaines."