Retrieval-Augmented Generation (RAG) ist der am weitesten verbreitete LLM-Anwendungsfall in Organisationen. Durch die Vektorisierung von Dokumenten und das Abrufen semantisch ähnlicher Chunks zum Zeitpunkt der Abfrage behebt RAG Halluzinationen, verankert Antworten und umgeht statische Wissensgrenzen, die durch das Pretraining des Modells auferlegt werden. Allerdings stößt der Standard-Vektor-RAG bei komplexen Abfragen, die globalen Kontext, Multi-Hop-Reasoning oder Cross-Document-Aggregation erfordern, an Grenzen.

Graph RAG löst dieses Problem, indem es vom Abrufen flacher Dokumente zum Abrufen strukturierter Kenntnisse übergeht. Es integriert Knowledge Graphs (KG), bei denen Daten als Knoten (Entitäten), Kanten (Beziehungen) und Eigenschaften gespeichert werden, in den RAG-Pipeline. Dies kombiniert die semantischen, unscharfen Matching-Fähigkeiten moderner LLMs mit dem strukturierten, deterministischen Reasoning der KGs.

Der Artikel untersucht sechs unterschiedliche Architekturmuster von Graph RAG, einschließlich Vor- und Nachteilen sowie Anwendungsfällen. Zu den Kernkomponenten gehören die Informationsextraktion mithilfe von LLMs für Named Entity Recognition und Relationship Extraction, die Graphspeicherung in Datenbanken wie Neo4j, Retrieval-Mechanismen und die Generierung, bei der abgerufene Graphdaten in den Kontextfenster des LLM injiziert werden.

Der Begriff „Graph RAG" ist ein Oberbegriff für mehrere grundlegend unterschiedliche Architekturmuster. Die Wahl des richtigen Musters hängt von den Abfrage Mustern des Benutzers, den Systemkosten, der Latenz und den Funktionsanforderungen ab.

Schlüsselentitäten: Unternehmen: Towards Data Science, Neo4j, Nebula Graph, Memgraph