HeadlinesBriefing favicon HeadlinesBriefing.com

在用户之前先破坏你自己的RAG管道

Towards Data Science •
×

检索增强生成(RAG)使用文档语料库回答问题。典型的评估会将一个写得好的问题发送到一个整洁的语料库,并检查检索器是否返回正确的段落。生产环境中的集合很少保持整洁:政策变更后旧页面仍然存在,用户会输入像“warehuse”这样的拼写错误,OCR可能会将“SSO”读作“SS0”,表格会跨页拆分。每个问题都可能使检索器指向错误的段落,从而给语言模型提供不正确的上下文。

一个带有故障注入——故意添加问题——的小型检索器可以测试系统的响应。我添加了一个过时的政策页面、一个OCR字符替换、一个查询拼写错误和一个被拆分的表格。这个玩具管道使用4个短文档和一个评分函数,该函数将查询和文档拆分为小写标记,每个匹配的标记得1分。得分最高者获胜。

过时文档相互矛盾:退货政策在2026年60天变为30天,但数据摄取添加了新页面却没有删除旧页面。两者得分相同,因此列表顺序返回了2024年的政策。一个时效性决胜规则可以解决这个问题。

OCR错误隐藏了匹配词:“Enterprise”变成“Enterpr1se”,“SSO”变成“SS0”。所有文档都得0分并列,返回了退货政策。一个规范化函数在分词之前纠正已知的OCR替换。

关键实体:人物:Sara Nóbrega

FAQ:什么是RAG管道中的故障注入?

故障注入意味着故意添加问题——例如过时文档、OCR错误、查询拼写错误或拆分表格——以测试检索系统如何响应。

FAQ Q:什么是RAG管道中的故障注入?

FAQ A:故障注入意味着故意添加问题——例如过时文档、OCR错误、查询拼写错误或拆分表格——以测试检索系统如何响应。