检索增强生成（RAG）是各组织中应用最广泛的LLM用例。通过将文档向量化并在查询时检索语义相似的片段，RAG能够缓解幻觉问题、使回答有依据，并绕过模型预训练所设定的静态知识截止日期。然而，标准的基于向量的RAG在处理需要全局上下文、多跳推理或跨文档聚合的复杂查询时会遇到限制。

Graph RAG通过从检索扁平文档转向检索结构化知识来解决这一问题。它将知识图谱（KG）集成到RAG流程中，其中数据以节点（实体）、边（关系）和属性的形式存储。这结合了现代LLM的语义模糊匹配能力与知识图谱的结构化确定性推理能力。

本文探讨了Graph RAG的六种不同架构模式，包括各自的优缺点和应用场景。核心组件包括：利用LLM进行命名实体识别（NER）和关系提取的信息提取、存储在Neo4j等数据库中的图谱存储、检索机制，以及将检索到的图谱数据注入LLM上下文窗口的生成阶段。

"Graph RAG"一词涵盖了几种本质上不同的架构模式。选择合适的模式取决于用户的查询模式、系统成本、延迟和能力需求。

关键实体：公司：Towards Data Science、Neo4j、Nebula Graph、Memgraph