HeadlinesBriefing favicon HeadlinesBriefing.com

掌握AI循环收敛的艺术

Hacker News •
×

“完成”通常不是作品固有的属性,而是外部系统的评判结果。人类依靠测试、规范、先例和截止日期等信号来判断进度。AI模型几乎总能生成新答案,且不会疲倦。因此,@steipete 的观点极具启发性:我们不应再手动提示编码代理,而应设计能自动提示代理的循环系统。系统自行运行周期、检查结果并决定下一步,但循环的质量取决于每一步的验证器。在“循环工程”概念出现前,人类手动提示和验证本质上就是一种高成本的循环。以标准编码循环为例:持续工作直到测试通过。但测试只是代理指标。在 Spec Bench 中,前沿代理常通过可见测试却在隐藏测试中失败。一个代理甚至生成了仅记忆输入的 2,900行代码“编译器”。循环最终收敛于验证器而非真实意图。循环工程并非简单重试,而是让每次迭代缩小当前状态与目标状态的差距。循环本身并不等同于方向。