A Geração Aumentada por Recuperação (RAG) é o caso de uso de LLM mais utilizado nas organizações. Ao vetorizar documentos e recuperar fragmentos semanticamente semelhantes no momento da consulta, o RAG mitiga alucinações, fundamenta respostas e contorna os limites de conhecimento estático impostos pelo pré-treinamento do modelo. No entanto, a RAG padrão baseada em vetores enfrenta limitações para consultas complexas que exigem contexto global, raciocínio multi-salto ou agregação entre documentos.

O Graph RAG resolve isso ao fazer a transição da recuperação de documentos planos para a recuperação de conhecimento estruturado. Ele integra Grafos de Conhecimento (KG), onde os dados são armazenados como Nós (Entidades), Arestas (Relações) e Propriedades, no pipeline RAG. Isso combina as capacidades de correspondência semântica e fuzzy dos LLMs modernos com o raciocínio estruturado e determinístico dos KGs.

O artigo explora seis padrões arquiteturais distintos do Graph RAG, junto com prós, contras e casos de uso. Os componentes principais incluem Extração de Informação usando LLMs para Reconhecimento de Entidades Nomeadas e Extração de Relações, Armazenamento de Grafos em bancos de dados como Neo4j, Mecanismos de Recuperação, e Geração onde os dados do grafo recuperados são injetados na janela de contexto do LLM.

O termo "Graph RAG" é um termo guarda-chuva para vários padrões arquiteturais fundamentalmente diferentes. A escolha do padrão certo depende dos padrões de consulta do usuário, custo do sistema, latência e requisitos de capacidade.

Entidades Principais: Empresas: Towards Data Science, Neo4j, Nebula Graph, Memgraph