HeadlinesBriefing favicon HeadlinesBriefing.com

RAG 重排序器到底是如何工作的

Towards Data Science •
×

当 RAG 检索失效,工程师被告知‘添加重排序器’。但解释往往停留在架构层面——交叉编码器、注意力机制或相关性训练模型——而不揭示模型实际学到了什么。这种差距很重要:团队无法证明重排序器的使用,也无法判断何时便宜的关键词查找就足够了。诚实的答案是:重排序器并不比其下方的嵌入步骤更聪明。它使用相同的统计 token 关联,只是条件是查询-段落对,而不是独立的文本。一旦理解,是否使用重排序器的决策就从‘因为教程这么说’转变为‘只有当这种特定权衡值得付出代价时’。文章介绍了机制:重排序器是一个交叉编码器 transformer,在相关性标签上训练,根据 token 共现产生评分,而不是真正的理解。它突出了企业 RAG 系统三个架构后果。一个伴侣笔记本让用户在 PDF 上测试重排序器,展示哪些关键词驱动排名。本文是企业文档智能系列的一部分 I,与嵌入三部曲(2A/2B/2C)并行,并在 Prompt、Context、Loop 框架基础上构建。