用 Rust 重写 Prime Agent
自 8 月推出 Prime Agent 以来,下载量超过 30 万次,代币处理量突破 8 万亿。今天,团队推出了从零开始用 Rust 重写的更快、更简洁的版本。
两周内,Prime Agent 调度了由 2,000 多个智能体组成的集群,在 10,000 多个 Prime Sandbox 中端到端地重写了自身,并使用了 Prime Inference 的 GLM-5.3 端点提供的超过 2,000 亿个代币。此次重写对多智能体能力进行了压力测试,包括用于大规模智能体集群的沙箱和推理基础设施、自主研究以及强化学习。
为确保功能对等,Prime Agent 使用子智能体对依赖关系进行拓扑排序,并以有限状态机构建循环计算和正确性检查。代码架构经过重写,以便更易于维护。团队利用运行时基准测试和真实运行轨迹来提升性能指标并排查错误。现在,Prime Agent 的运行速度更快,资源占用也低于大多数编程智能体框架。Rust 实现处理了 1,929.9 亿个代币,使用 1,981 个深度为 3 的智能体,而 TypeScript 版本处理了 357 亿个代币,使用 228 个智能体。
选择 Rust 的原因:TypeScript 帮助团队快速交付,但可选类型在运行时消失,错误以未检查的异常形式传播,而且计算密集型任务会与键盘输入争用同一个事件循环。每个进程都要承担 JavaScript 运行时和垃圾回收器的开销。Rust 则适合在项目不断增长的同时,以更高标准约束代码,并保持快速交付的目标。性能提升来自无垃圾回收器的原生代码、每会话独立的工作进程以及启动速度的优化。借助 Rust 的 Send 和 Sync trait,编译器可以检查线程之间的数据传递,从而提升并发安全性。穷尽枚举、所有权和生命周期带来的编译期保证,排除了整类错误。此外,新版本还带来了 Windows 支持、会话崩溃隔离以及更一致的守护进程协议。
项目目标是让智能体在最少人工干预的情况下自主完成重写。人工工作的重点是搭建验证体系,以支持大规模自主部署,这也延续了此前关于自动 Rust 转译的工作。每项规范覆盖不同类型的对等性:TUI 对等性通过将 TypeScript 与 Rust 二进制文件并排运行于同一脚本化模型,并比对终端画面进行验证;Harness 对等性比较会话记录和模型提供方请求;协议对等性则对照 TypeScript 实现检查所有守护进程协议消息类型;功能对等性通过对 TypeScript 产品逐组件审计来实现。客观检查确保了各 API 和协议之间的一致性。
来源: Hacker News · 由HeadlinesBriefing整理摘要