为什么大多数代理只是流程图的伪装，以及应该构建什么。我是在几个月前在机场写下大部分内容的，然后把它留在了草稿箱里。噪声只会越来越大，所以这里是它。几个月前，在我们从客户工作坊返回的路上，我们正在讨论什么构成代理AI的范围，我们每个人都从经验中引用了例子。有关于为什么自动化无法解决它以及大多数代理AI用例只不过是被美化的自动化的讨论。问题是：“给我一个代理的真实用例。不是演示。不是自动化。一个真实的。因为到目前为止我看到的一切，我都可以用工作流引擎和模型调用来构建。”我们在那时已经进行了数月的代理AI讨论。我们已经架构了这些系统。我们已经为它们做过推销。然而，就在那时，坐在那里喝着茶，只有二十分钟可供支配，我们不得不花很长时间才能想出一个能经受住三十秒审视的例子。这让我困扰到写下它。我首先想到的测试我的直觉是通过工作的形状来定义代理AI。任务是否要求系统在执行过程中做出无法在开始时预见的决策？如果是，则是代理；如果不是，则是自动化。我想到一个来自航空维修的例子，因为那是我之前六个月所在的地方。一架A320飞机降落时出现ECAM警告：AIR PACK 1 故障。自动化会做什么：触发检查清单，通知值班工程师，也许会拉出MEL参考。完成。传统机器学习会做什么：基于历史故障模式预测组件故障的概率，产生一个置信分数。工程师仍然需要做决定。我认为代理会做什么：它从ECAM（飞机驾驶舱系统中的一条消息）开始，查询CFDS（集中故障显示系统）获取故障历史，发现Pack 1在六周内三次出现同样的故障。这改变了情况，于是它拉出TSM（故障排除手册），识别出四个可能的根本原因。它检查AMOS（全球航空中使用的数据库）中是否有备件，发现其中两个需要流量控制阀，而该站点没有这个零件。然后它检查哪些原因在MEL（最低设备清单，即飞机保持适航所需的最低设备）下可以延期，发现一个在类别C下可以延期十天，查看飞机接下来的十次航班以了解延期的运营成本，并起草建议：在类别C下延期，在第二天八天前订购FCV（阀门），在下一个基础维修时段进行深度检查。没有人预先编程这个决策树。这个计划是从过程中浮现出来的，而不是事先制定的。我仍然没有说服自己。反思后，我认为我是对的。为什么这个例子失败了因为你可以画出那个流程图。CFDS，然后TSM，然后AMOS，然后MEL，然后旋转。这是一个复杂的流程图，有分支，但一个称职的工程师完全可以事先指定它。复杂性不等于开放性。一个有两百个分支的树仍然是一棵树。这是几乎所有代理AI路演文稿犯的错误，包括我的。我们展示一些复杂的东西，并期望这种复杂性本身就能证明它是代理的。事实并非如此。复杂性只是一个更大的流程图，而流程图已经有成熟的技术，而且它比你在这个槽位中放置的任何LLM都更便宜、更快、更可靠。那么实际的界限在哪里？已知未知 versus 未知未知这是我得出的区分，而且它比这个市场中大多数人愿意承认的要窄。自动化处理已知未知。你不知道零件是否有库存，但你知道库存是你需要检查的东西。代理处理未知未知。你不知道需要检查什么，并且只有通过查看才能发现。拿一个u...
来源: Towards Data Science · 由HeadlinesBriefing整理摘要