Генерация, дополненная извлечением (RAG), — это наиболее широко используемый сценарий применения LLM в организациях. Векторизуя документы и извлекая семантически схожие фрагменты во время запроса, RAG снижает галлюцинации, обосновывает ответы и обходит статические ограничения знаний, накладываемые предобучением модели. Однако стандартный векторный RAG сталкивается с ограничениями при сложных запросах, требующих глобального контекста, многошагового рассуждения или агрегации между документами.

Graph RAG решает эту проблему, переходя от извлечения плоских документов к извлечению структурированных знаний. Он интегрирует графы знаний (KG), где данные хранятся в виде узлов (сущностей), рёбер (отношений) и свойств, в конвейер RAG. Это сочетает семантические возможности нечёткого сопоставления современных LLM со структурированным детерминированным рассуждением графов знаний.

В статье рассматриваются шесть различных архитектурных паттернов Graph RAG, а также их преимущества, недостатки и варианты использования. Основные компоненты включают извлечение информации с использованием LLM для распознавания именованных сущностей и извлечения отношений, хранение графа в базах данных, таких как Neo4j, механизмы извлечения и генерацию, при которой извлечённые данные графа внедряются в контекстное окно LLM.

Термин «Graph RAG» является обобщающим понятием для нескольких принципиально различных архитектурных паттернов. Выбор правильного паттерна зависит от паттернов запросов пользователя, стоимости системы, задержки и требований к возможностям.

Ключевые сущности: Компании: Towards Data Science, Neo4j, Nebula Graph, Memgraph