HeadlinesBriefing favicon HeadlinesBriefing.com

AI·rete·RAG:可审计AI决策的Rete引擎与RAG

Hacker News •
×

HN大家好,我开发了ai·rete·rag,因为我不断看到团队让LLM负责需要可审计的决策(贷款、欺诈、临床分诊),然后事后才加上"护栏"。它改为将两者串联运行:一个纯Python Rete引擎根据你的事实评估YAML规则。裁决仅由此产生。相同的事实,每次都得到相同的裁决,并采用基于显著性的冲突解决机制。2. RAG从你自己的政策文档中检索段落,然后由LLM撰写一段通俗英文解释,说明已经做出的决策,并引用这些段落。它无法改变裁决。

几个超出预期的方面:规则是一个图,而非扁平列表:嵌套的all/any/not,规则可以断言其他规则消费的事实(前向链)。决策追踪展示了因果链。审计模式记录每一条被评估的规则,包括那些未触发的规则,逐条件记录,并附带规则集快照以便回放。规则可以引导检索(一条触发的规则会缩小搜索的文档范围),检索到的文本可以转化为引擎可用的事实。非技术作者可以在可视化编辑器中构建规则,或者粘贴一份政策文档,获得带有引用的LLM起草规则。草稿未经审查绝不保存。YAML仍然保留给工程师使用。

落地页有一个无需注册的实时演示(8个演示领域:贷款、欺诈、临床、保险、法律、运营、电商、区块链)。还有一个MCP服务器,因此Claude和其他代理可以将/decide作为工具调用:uvx ai-rete-rag-mcp。坦白说:这是一个带有免费层级的托管产品。MCP客户端是开源的(MIT,github.com/zaharajabeen13-create/ai-rete-rag-mcp);引擎和平台目前不是开源的。我特别想听听那些曾向监管机构或审计师解释自动化决策的人:他们实际上要求了什么?