我们正快速转向由高度通用、日益自主的代理定义的计算格局。由能够动态生成计划并调用外部工具的大型语言模型（LLMs）驱动，这些系统提供了AI无缝处理复杂多步骤任务的潜力。然而，实现这一潜力需要解决一个关键挑战：在确保代理行为适当的同时启用代理能力。今天，我们分享一份全面的新研讨会报告《代理隐私与安全中的开放与新兴问题：一个情境视角》，这是来自众多机构的超过50位学术和行业领袖合作努力的成果。我们于2025年底在纽约市举行的Google情境代理隐私与安全（CAPS）研讨会上会面。
代理AI的核心挑战在于，要使代理有用，它可能需要访问个人数据并能够在广泛的情境中采取有影响的行动。然而，这种访问加上代理的行为灵活性，需要与传统软件截然不同的方法。与传统确定性软件不同，代理在三个关键维度上有所不同：非结构化接口和输入模糊性、概率性控制流以及自主性与委托。
鉴于有用的代理可能需要共享数据并完成任务，我们相信可信代理的未来取决于它们推理、理解并受其行为的社会规范及适当性约束的能力——针对其运行的具体情境。我们的报告基于情境完整性（CI）理论，该理论将隐私不仅仅定义为保密或控制，而是根据既定且合理的社会规范定义的“适当信息流”。例如，你可能愿意与虚拟购物助手分享你的礼品购物清单，但不愿与家人和朋友分享。
来源: Google AI Blog · 由HeadlinesBriefing整理摘要