Hace un año por estas fechas, publiqué un curso de Deeplearning.ai con Andrew Ng sobre Gobernanza de agentes de IA con el objetivo de educar a los desarrolladores en los conceptos básicos de protección de datos para un despliegue eficaz y responsable de agentes. La motivación del curso provino del estudio de brechas de IBM de 2025, que encontró que el 97% de las organizaciones que sufrieron una brecha relacionada con IA carecían de controles de acceso adecuados a la IA, y el 63% no tenía ninguna política de gobernanza de IA. Un año es una eternidad en el desarrollo de la IA, y hemos recorrido un largo camino desde agentes con cero gobernanza o lidiando con la gobernanza de un solo agente. Los equipos ahora enfrentan un nuevo desafío de gobernanza: la proliferación de agentes (el crecimiento descontrolado de agentes de IA autónomos en una organización sin seguimiento, propiedad o gobernanza centralizados).
Según Gartner, para 2028 la empresa promedio de Fortune 500 utilizará más de 150,000 agentes de IA. Sin embargo, según la firma, solo el 13% de las organizaciones cree que tiene la gobernanza adecuada de agentes de IA. Desde el año pasado, la capacidad de implementar se ha vuelto más fácil que nunca. La aparición de agentes de codificación como claude code y codex, así como una variedad de opciones de bajo código/sin código, han reducido sustancialmente la barrera para la implementación de agentes. Un resultado es que los equipos ahora enfrentan la posibilidad de que su flota de agentes incurra en un uso de tokens enormemente derrochador y genere costos imprevistos.
Otro desafío grave son las vías adicionales para que los datos sensibles se filtren. Como era de esperar, los desafíos de gobernanza han evolucionado. Actualmente, estoy viendo a los clientes construir agentes más rápido que nunca, y la forma del problema ha cambiado. Hace un año nos centramos en agregar los cuatro pilares de la gobernanza a un solo agente: gestión del ciclo de vida, gestión de riesgos, seguridad y observabilidad. Sabíamos incluso entonces que construir un agente no era la parte difícil.
Ahora, esto no ha cambiado, pero ¿cuál es el cambio? La diferencia es que esto está sucediendo con docenas de agentes/subagentes al mismo tiempo. Los agentes se multiplican más rápido de lo que muchos equipos pueden gobernarlos. Los equipos ahora necesitan estar equipados con una plataforma de datos que escale el seguimiento centralizado, los permisos y la gobernanza con el número de agentes que se están construyendo. Examinemos cómo han evolucionado los pilares de la gobernanza en 2026.
Fuente: Towards Data Science · Resumido por HeadlinesBriefing