Im vergangenen Jahr sind KI-Retrieval-Architekturen zu einem heißen Thema in Analystenberichten und technischen Blogs geworden. Ich habe vier verschiedene Ansätze auf einem Laptop gebaut, um zu verstehen, ob das Hinzufügen eines Wissensgraphen die Antwortqualität wesentlich verbessert. Der Datensatz war absichtlich klein und bestand aus zwei kürzlich veröffentlichten Anthropic-Artikeln über KI-Sicherheit und einer Reihe von Evaluierungsfragen. Mein Ziel war nicht, eine universell überlegene Architektur zu identifizieren, sondern zu verstehen, wie sich verschiedene Retrieval-Ansätze mit denselben Informationen verhalten.

Um den Vergleich fair zu halten, verwendete ich Microsofts Phi-4-Sprachmodell (14 Milliarden Parameter) für die Antwortgenerierung, das ich lokal auf einem Thinkpad über Ollama ausführte. Das all-Mini LM-L6-v2-Embedding-Modell betrieb die semantische Suche. Für Wissensgraph-Speicherung und -Abfragen verwendete ich Neo4j, um Entitäten und Beziehungen zu verwalten, die aus dem Quellmaterial extrahiert wurden. Ein Frontier-Modell-Ansatz mit Claude Haiku 4.5 lieferte zusätzlichen Vergleich.

Das Ergebnis war klar: Das Frontier-Modell produzierte insgesamt die stärksten Antworten. Graph RAG übertraf jedoch traditionelles RAG bei bestimmten Fragetypen konsistent. Die Ergebnisse zeigten, dass der Wert eines Graphen stark vom spezifischen zu lösenden Problem abhängt. Dieses Experiment liefert praktische Einblicke, wann der zusätzliche Aufwand von Graph RAG gerechtfertigt ist und wann traditionelle Ansätze ausreichen können.

Wichtige Entitäten: Unternehmen: Microsoft, Neo4j, Anthropic, Ollama