HeadlinesBriefing favicon HeadlinesBriefing.com

何时使用单一模型与智能体团队

Towards Data Science •
×

在最近的一次 AI 容量扩建中,我把一个控制平面节点安排进了早期切换批次,因为我掌握的它为期 2 周的流量快照看起来实际上是孤立的。事实并非如此。那是一个每月一次的容量对账任务。到了 21 号它醒了过来,一半的对账现在跨越了数据中心边界,流水线延迟从大约 10 分钟变成了接近 60 分钟。

图并没有错。错的是我的观察窗口。我们用一个 2 周的采集窗口,作为一个每月才运行一次的任务的真相来源。我真正在意的失效模式是:一个推理模型在它被展示的证据上看起来是对的,而在它没有被展示的证据上悄悄地错了。把所有这些证据交给单一模型,它会抹平其中的矛盾,并给出一个自信的答案。一个由专业智能体组成的小团队,配上一个会指出矛盾而不是把它们平均掉的协调者,则不会这样。

这种规模的工作不是一个问题。它是数十个彼此之间几乎不共享上下文的问题。一个强大的单一推理模型在 2 个方面失败了:它把矛盾平均掉,或者漏掉任务。CodexClaude Code 都提供的子智能体模式直接解决了第二种失败,因为每个专家只会看到属于它自己那个问题的证据。每个专家返回的是一条带类型的发现,而不是一段文字。声明、证据、置信度、新鲜度,以及 3 种裁决之一:ok、warn 或 hold。

关键实体:公司:Towards Data Science

FAQ:我应该在什么时候使用单一模型,而不是智能体团队?

当任务是一个共享上下文的问题时,使用单一模型。当工作是数十个几乎不共享上下文的问题时,使用智能体团队,这样协调者就能指出矛盾,而不是把它们平均掉。

FAQ 问:我应该在什么时候使用单一模型,而不是智能体团队?

FAQ 答:当任务是一个共享上下文的问题时,使用单一模型。当工作是数十个几乎不共享上下文的问题时,使用智能体团队,这样协调者就能指出矛盾,而不是把它们平均掉。