Estamos transitando rapidamente para um cenário de computação definido por agentes altamente gerais e cada vez mais autônomos. Impulsionados por grandes modelos de linguagem (LLMs) que podem gerar planos dinamicamente e invocar ferramentas externas, esses sistemas oferecem o potencial para a IA lidar perfeitamente com tarefas complexas de várias etapas em nosso nome. No entanto, realizar esse potencial requer resolver um desafio chave: habilitar a capacidade do agente enquanto garante que os agentes ajam de forma apropriada. Hoje, compartilhamos um novo relatório abrangente de workshop, "Problemas Abertos e Emergentes em Privacidade e Segurança de Agentes: Um Ângulo Contextual", resultado de um esforço colaborativo que reúne mais de 50 líderes acadêmicos e da indústria de inúmeras instituições. Nos encontramos no Workshop de Privacidade e Segurança de Agentes Contextuais do Google (CAPS), realizado no final de 2025 na cidade de Nova York.
O desafio central da IA agentiva é que, para um agente ser útil, ele pode precisar ter acesso a dados pessoais e a capacidade de tomar ações consequentes em uma ampla gama de contextos. No entanto, esse acesso juntamente com a flexibilidade comportamental dos agentes requer abordagens significativamente diferentes daquelas usadas em software tradicional. Ao contrário do software determinístico tradicional, os agentes diferem em três dimensões críticas: Interfaces não estruturadas e ambiguidade de entrada, Fluxos de controle probabilísticos, e Autonomia e delegação.
Dado que agentes úteis podem precisar compartilhar dados e concluir tarefas, acreditamos que o futuro de agentes confiáveis depende de sua capacidade de raciocinar sobre, entender e ser limitados pelas normas sociais e adequação de suas ações — para o contexto específico em que operam. Nosso relatório é fundamentado na teoria da Integridade Contextual (CI), que define privacidade não apenas como sigilo ou controle, mas como "fluxo de informação apropriado" de acordo com normas sociais estabelecidas e justificáveis. Por exemplo, você pode estar disposto a compartilhar sua lista de compras de presentes com um assistente de compras virtual, mas não com sua família e amigos.
Fonte: Google AI Blog · Resumido por HeadlinesBriefing