大型语言模型正越来越能够处理复杂的多步骤任务，由此催生了一类新的、由LLM驱动的系统，即智能体。本指南基于众多客户部署的经验总结而成，专为正在构建首批智能体的产品和工程团队设计。它涵盖了识别有潜力应用场景的框架、智能体逻辑与编排的模式，以及确保智能体安全、可预测且高效运行的最佳实践。
什么是智能体？传统软件帮助用户简化工作流程，而智能体则能高度独立地代表用户执行这些工作流程。工作流程是为达成目标而需要执行的一系列步骤，例如解决客户服务问题、预订餐厅、提交代码更改或生成报告。简单的聊天机器人、单轮LLM以及不使用LLM来控制工作流程执行的情感分类器，都不属于智能体。
智能体利用LLM来管理工作流程的执行并做出决策。它能够识别工作流程何时完成，必要时纠正自身的操作，并在失败时停止运行，将控制权交还给用户。它还可以访问各种工具，以收集上下文信息并在外部系统中采取行动，根据工作流程的当前状态选择合适的工具，并始终在明确定义的护栏范围内运行。
何时应该构建智能体？智能体适用于传统的基于规则的方法难以胜任的工作流程。支付欺诈分析便能说明这一区别：规则引擎像检查清单一样运作，而LLM智能体则会评估上下文和细微的模式，即使没有违反明确的规则，也能识别出可疑活动。应优先考虑涉及复杂决策、规则难以维护或严重依赖非结构化数据的工作流程。如果您的应用场景并不明确符合这些标准，确定性解决方案可能就已足够。
来源: OpenAI Blog · 由HeadlinesBriefing整理摘要