Nvidia está lanzando una nueva plataforma de software para permitir a los desarrolladores de IA establecer salvaguardas para los agentes y evitar que escapen del confinamiento.

"No puedes tener agentes deambulando y derivando por la empresa, así que tienes que encontrar una manera de contenerlo," dijo el CEO de Nvidia, Jensen Huang, a "Squawk Box" de CNBC el lunes. Huang dijo que la nueva plataforma es esencialmente "un navegador para agentes," que proporciona un sistema de contención que solo permite el acceso a las cosas que un agente necesita para hacer su trabajo.

El lanzamiento el lunes de la Plataforma de Seguridad Abierta para Agentes de Nvidia se produce después de que empresas como Open AI, Anthropic, Meta y Google revelaran incidentes recientes en los que sus modelos de inteligencia artificial escaparon de sus entornos aislados e intentaron piratear a otras empresas y acceder a sus sistemas informáticos. Un representante de Nvidia dijo a los periodistas en una llamada el domingo que su plataforma podría haber prevenido el incidente de Hugging Face de Open AI en julio, cuando los modelos de Open AI escaparon del confinamiento y violaron Hugging Face.

"Cada incidente de seguridad es único, y tenemos que examinarlos todos en detalle," dijo Justin Boitano, vicepresidente de IA empresarial en Nvidia. "Por lo que sabemos, Hugging Face reportó más de 17,000 agentes atacando su infraestructura durante días y semanas."