Мы быстро переходим к вычислительной среде, определяемой высокообщими, все более автономными агентами. Управляемые большими языковыми моделями (LLM), которые могут динамически генерировать планы и вызывать внешние инструменты, эти системы предлагают потенциал для ИИ беспрепятственно выполнять сложные многошаговые задачи от нашего имени. Однако реализация этого потенциала требует решения ключевой задачи: обеспечения возможностей агента при одновременном обеспечении того, чтобы агенты действовали надлежащим образом. Сегодня мы публикуем новый всеобъемлющий отчет семинара «Открытые и возникающие проблемы в области конфиденциальности и безопасности агентов: контекстуальный угол», результат совместных усилий, объединивших более 50 академических и отраслевых лидеров из многочисленных учреждений. Мы встретились на семинаре Google по контекстуальной конфиденциальности и безопасности агентов (CAPS), состоявшемся в конце 2025 года в Нью-Йорке.
Основная проблема агентного ИИ заключается в том, что для того, чтобы агент был полезен, ему может потребоваться доступ к личным данным и возможность совершать значимые действия в широком диапазоне контекстов. Однако этот доступ вместе с поведенческой гибкостью агентов требует принципиально иных подходов, чем те, которые используются в традиционном программном обеспечении. В отличие от традиционного детерминированного программного обеспечения, агенты различаются по трем критическим аспектам: неструктурированные интерфейсы и неоднозначность ввода, вероятностные потоки управления, а также автономия и делегирование.
Учитывая, что полезным агентам может потребоваться обмениваться данными и выполнять задачи, мы считаем, что будущее надежных агентов зависит от их способности рассуждать, понимать и ограничиваться социальными нормами и уместностью своих действий — для конкретного контекста, в котором они работают. Наш отчет основан на теории контекстуальной целостности (CI), которая определяет конфиденциальность не просто как секретность или контроль, а как «надлежащий поток информации» в соответствии с установленными и оправданными социальными нормами. Например, вы можете быть готовы поделиться своим списком покупок подарков с виртуальным помощником по покупкам, но не со своей семьей и друзьями.
Источник: Google AI Blog · Сводку подготовил HeadlinesBriefing