我正在构建内部代理以增强工作能力，需要互联网研究、资源访问以及发送邮件等操作执行。这带来了提示注入风险的“致命三重奏”。Simon Willison警告称，互联网是不可信的；LLM无法区分提示与上下文。攻击者可以通过隐藏的文本片段（如将数据发送至外部地址的命令）来篡改代理。即使是无意的内容（如措辞有利于某一解决方案的竞争对手网页），也可能欺骗LLM进行不公平的排名，这被称为“间接提示注入”。历史表明这些风险是真实的：Notebook LM泄露了客户信息，ChatGPT Operator从Hacker News复制了私人邮件，而Microsoft Copilot提供了来自攻击者网站的误导性链接。我的职责是构建护栏以防止有意攻击和意外结果。安全代理的设计始于对系统的理解。用户级防御包括列出可能的操作并实施身份验证、访问验证和培训。将上传限制在内部SharePoint并强制执行安全培训，可以降低不受信任内容的风险。系统级防御是最有效的路径，利用架构设计模式来保护代理免受漏洞和对抗性结果的影响。