Estamos transitando rápidamente hacia un panorama informático definido por agentes altamente generales y cada vez más autónomos. Impulsados por grandes modelos de lenguaje (LLMs) que pueden generar planes dinámicamente e invocar herramientas externas, estos sistemas ofrecen el potencial de que la IA maneje sin problemas tareas complejas de múltiples pasos en nuestro nombre. Sin embargo, realizar este potencial requiere resolver un desafío clave: habilitar la capacidad del agente mientras se asegura que los agentes actúen apropiadamente. Hoy, compartimos un nuevo informe completo de taller, "Problemas Abiertos y Emergentes en Privacidad y Seguridad de Agentes: Un Ángulo Contextual", resultado de un esfuerzo colaborativo que reúne a más de 50 líderes académicos e industriales de numerosas instituciones. Nos reunimos en el Taller de Privacidad y Seguridad de Agentes Contextuales de Google (CAPS), celebrado a finales de 2025 en la Ciudad de Nueva York.
El desafío central de la IA agéntica es que, para que un agente sea útil, puede necesitar tener acceso a datos personales y la capacidad de tomar acciones consecuentes en una amplia gama de contextos. Sin embargo, este acceso junto con la flexibilidad conductual de los agentes requiere enfoques significativamente diferentes de los utilizados en el software tradicional. A diferencia del software determinista tradicional, los agentes difieren en tres dimensiones críticas: Interfaces no estructuradas y ambigüedad de entrada, Flujos de control probabilísticos, y Autonomía y delegación.
Dado que los agentes útiles pueden necesitar compartir datos y completar tareas, creemos que el futuro de los agentes confiables depende de su capacidad para razonar, comprender y estar limitados por las normas sociales y la idoneidad de sus acciones, para el contexto específico en el que operan. Nuestro informe se basa en la teoría de la Integridad Contextual (CI), que define la privacidad no solo como secreto o control, sino como "flujo de información apropiado" según normas sociales establecidas y justificables. Por ejemplo, podrías estar dispuesto a compartir tu lista de compras de regalos con un asistente de compras virtual, pero no con tu familia y amigos.
Fuente: Google AI Blog · Resumido por HeadlinesBriefing