No ano passado, nesta época, lancei um curso da Deeplearning.ai com Andrew Ng sobre Governança de agentes de IA com o objetivo de educar desenvolvedores sobre os fundamentos da proteção de dados para uma implantação eficaz e responsável de agentes. A motivação para o curso veio do estudo de violação da IBM de 2025, que descobriu que 97% das organizações que sofreram uma violação relacionada à IA não tinham controles de acesso adequados à IA, e 63% não tinham nenhuma política de governança de IA. Um ano é uma eternidade no desenvolvimento de IA, e percorremos um longo caminho desde agentes com governança zero ou lidando com a governança de um único agente. As equipes agora estão enfrentando um novo desafio de governança: proliferação de agentes (o crescimento descontrolado de agentes de IA autônomos em uma organização sem rastreamento, propriedade ou governança centralizados).
De acordo com a Gartner, até 2028, a empresa média da Fortune 500 usará mais de 150.000 agentes de IA. No entanto, de acordo com a empresa, apenas 13% das organizações acreditam que têm a governança correta de agentes de IA em vigor. Desde o ano passado, a capacidade de implantar se tornou mais fácil do que nunca. O surgimento de agentes de codificação como claude code e codex, bem como uma variedade de opções low-code/no-code, reduziu substancialmente a barreira para a implantação de agentes. Um resultado é que as equipes agora enfrentam a possibilidade de sua frota de agentes se envolver em um uso de tokens extremamente desperdiçador e incorrer em custos imprevistos.
Outro desafio sério são os caminhos adicionais para que dados sensíveis vazem. Não surpreendentemente, os desafios de governança evoluíram. Atualmente, estou vendo clientes construírem agentes mais rápido do que nunca, e a forma do problema mudou. Há um ano, nos concentramos em adicionar os quatro pilares da governança a um único agente: gerenciamento do ciclo de vida, gerenciamento de riscos, segurança e observabilidade. Sabíamos, mesmo naquela época, que construir um agente não era a parte difícil.
Agora, isso não mudou, mas qual é a mudança? A diferença é que isso está acontecendo com dezenas de agentes/subagentes ao mesmo tempo. Os agentes estão se multiplicando mais rápido do que muitas equipes conseguem governá-los. As equipes agora precisam estar equipadas com uma plataforma de dados que dimensione o rastreamento centralizado, as permissões e a governança com o número de agentes que estão sendo construídos. Vamos examinar como os pilares da governança evoluíram em 2026.
Fonte: Towards Data Science · Resumido por HeadlinesBriefing