HeadlinesBriefing HeadlinesBriefing.com

混合推理代理:在潜在空间中思考的LLM代理

Hacker News •
×

现代LLM代理通过文本进行推理和交互,而潜在推理提供了高效的内部媒介,但缺乏原生工具访问和推理透明度。混合推理代理(Hybrid Agents)通过统一的生成过程弥合了这两个方向。在架构上,轻量级的混合链接(Hybrid Link)实现了文本和潜在模式之间的无缝转换,而代理的连续工作记忆则在多轮交互中保留了无损的混合上下文。这些设计在保持工具集成代理能力的同时,使潜在思想可以直接检查。在此架构之上,开发了专门用于混合推理的后训练算法:混合SFT通过教主干网络与混合链接协调来稳定工具集成的混合生成,然后混合RL通过学习何时在潜在空间中思考以及何时通过文本行动来扩展推理。混合代理在涵盖数学、科学、医学、搜索和代理推理的11个基准测试中,针对3种模型规模进行了评估。与前沿LLM代理和代理框架相比,混合代理持续将性能提高10.4%,同时实现35.5%-54.7%的令牌减少、1.8倍-2.6倍的更快推理以及2.7倍-3.7倍的成本节约。代码和数据可在以下URL获取:https://example.com。该研究解决了构建超越人类语言但仍通过外部环境中的语言行动的代理的挑战,提供了一个将潜在推理的效率与基于文本交互的可访问性相结合的实用解决方案。统一方法代表了在保持工具集成代理能力的同时,使潜在思想直接可检查的重大进展。

来源: Hacker News · 由HeadlinesBriefing整理摘要