HeadlinesBriefing favicon HeadlinesBriefing.com

LLM记忆即Datalog:漏洞研究新方法

Hacker News •
×

在数月的漏洞研究中,我发现LLM代理在长期调查中会丢失已确立的事实,导致幻觉。传统记忆存储旧的对话记录,但不维护当前知识状态。我希望LLM能在事实变化时自动更新结论,就像程序分析中规则推导新事实,只需更新受影响的结果。这促使我为LLM构建了一个Datalog引擎。Datalog是一种声明式逻辑语言,事实和规则推导新事实;如果输入事实改变,只有依赖的结论会失效,而不是从头开始。我在观察到攻击者控制object_a,object_a指向object_b,且object_b是内核对象,从而允许攻击者控制内核对象后实现了这一点。后来,发现object_a不指向object_b使先前的结论失效。维护动态知识库让人联想到程序分析,其中不动点计算可推导的事实,增量更新优化性能。这种方法通过仅保留有效的当前状态而非反复重构历史,有望为复杂漏洞利用开发提供更可靠的LLM辅助。