Wissensgraphen plus KI wenn Beziehungen wichtiger sind als Text.

Viele Unternehmen haben inzwischen einen KI-Assistenten, der Dokumente durchsucht und Antworten formuliert — klassisches Retrieval-Augmented Generation. Das funktioniert gut, solange die Antwort irgendwo als Textpassage steht. Es scheitert zuverlässig, sobald die Frage Beziehungen betrifft: Welche Verträge hängen an diesem Kunden? Über wie viele Ecken ist Lieferant A mit Projekt B verbunden? Welche Bauteile sind von einem Rückruf indirekt betroffen? Solche Fragen beantwortet kein Textschnipsel, weil die Antwort nicht in einem Dokument steht, sondern zwischen vielen. Hier setzt GraphRAG an: KI auf einem Wissensgraphen, der Entitäten und ihre Verbindungen explizit speichert. Dieser Beitrag erklärt, wann sich der spürbare Mehraufwand gegenüber klassischem RAG wirklich lohnt, wie ein solcher Graph entsteht, welche Genauigkeits- und Kostenbandbreiten realistisch sind — und wo die Grenzen liegen, damit Sie nicht in ein Architektur-Projekt investieren, das ein einfacheres Setup besser gelöst hätte.

Warum klassisches Dokumenten-RAG an manchen Fragen scheitert.

Klassisches RAG arbeitet nach einem einfachen Prinzip: Es zerlegt Dokumente in Abschnitte, wandelt sie in Vektoren um und sucht bei einer Frage die ähnlichsten Abschnitte heraus. Das Sprachmodell formuliert daraus eine Antwort. Für faktische Einzelfragen — „Was steht in der Garantiebedingung zu Wasserschäden?“ — ist das hervorragend.

Das Verfahren hat aber eine strukturelle Schwäche: Es findet Textstellen, keine Zusammenhänge. Fragen, die das Verbinden mehrerer Fakten über verschiedene Quellen hinweg erfordern, kann es nur schlecht beantworten. Ein Beispiel: „Welche unserer Bestandskunden arbeiten mit einem Lieferanten, der von der aktuellen Sanktionsliste betroffen ist?“ Diese Antwort steht nirgends als Satz. Sie entsteht erst, wenn man Kundenstammdaten, Lieferantenbeziehungen und die Sanktionsliste miteinander verknüpft.

Reines Vektor-Retrieval scheitert hier doppelt: Es findet die einzelnen Bausteine nicht zuverlässig, weil sie inhaltlich gar nicht ähnlich klingen, und es kann sie nicht über mehrere Schritte zusammensetzen. Das Modell halluziniert dann gerne eine plausibel klingende, aber falsche Antwort. Genau diese Mehr-Schritt-Fragen sind der Anlass, über einen Wissensgraphen nachzudenken.

Was ein Wissensgraph konkret ist.

Ein Wissensgraph speichert Informationen als Knoten und Kanten. Knoten sind Entitäten — ein Kunde, ein Produkt, ein Vertrag, eine Maschine, ein Mitarbeiter. Kanten sind die Beziehungen dazwischen — „hat bestellt“, „ist Teil von“, „berichtet an“, „wurde geliefert von“. Anders als ein Stapel Dokumente macht der Graph diese Beziehungen explizit und maschinell traversierbar.

Der entscheidende Unterschied zur Volltextsuche: Man kann den Graphen entlanglaufen. Von einem Kunden zu seinen Verträgen, von dort zu den enthaltenen Produkten, von dort zu den Zulieferern — über drei, vier Stationen hinweg. Jeder Schritt ist eine präzise Datenbank-Operation, keine unscharfe Ähnlichkeitssuche.

GraphRAG kombiniert beides: Die KI nutzt den Graphen, um die relevanten Entitäten und ihre Verbindungen zu finden, und reichert die Antwort mit den dazugehörigen Textinhalten an. So entsteht eine Antwort, die sowohl die Struktur (wer hängt mit wem zusammen) als auch den Inhalt (was steht im Vertrag) berücksichtigt. Das Sprachmodell bekommt damit nicht zehn lose Textschnipsel, sondern einen geordneten, nachvollziehbaren Kontext.

Wann sich GraphRAG lohnt — und wann nicht.

Der Aufbau eines Wissensgraphen ist kein Wochenendprojekt. Bevor man investiert, sollte man ehrlich prüfen, ob die eigenen Fragen überhaupt graph-förmig sind. Eine grobe Orientierung:

Faustregel: Wenn ein erheblicher Teil der wertvollen Fragen das Wort „welche“ oder „wer“ in Kombination mit einer Beziehung enthält, ist GraphRAG einen Versuch wert. Wenn die meisten Fragen mit einer einzigen Textstelle beantwortet sind, bleiben Sie bei klassischem RAG — alles andere wäre teurer und komplexer ohne Gegenwert.

Wie der Graph entsteht — und warum das die eigentliche Arbeit ist.

Den Graphen zu befüllen ist der aufwendigste Teil. Es gibt grundsätzlich zwei Quellen. Strukturierte Daten — ERP, CRM, Stammdatenbanken — lassen sich vergleichsweise sauber überführen: Eine Kundentabelle wird zu Kundenknoten, eine Bestelltabelle zu „hat bestellt“-Kanten. Das ist Fleißarbeit, aber gut beherrschbar.

Schwieriger ist die Extraktion aus unstrukturiertem Text. Aus Verträgen, E-Mails oder Berichten müssen Entitäten und Beziehungen erkannt werden. Moderne Sprachmodelle können das automatisiert, aber nicht fehlerfrei. Sie verwechseln Namen, erfinden Beziehungen oder übersehen sie. Ein realistischer Wert für die Extraktionsgenauigkeit liegt je nach Textqualität und Domäne typisch zwischen 75 und 90 Prozent — gut genug für viele Zwecke, aber nicht für Anwendungen, in denen jeder Fehler teuer ist.

Ein hartnäckiges Problem ist die Entitäts-Auflösung: Sind „Müller GmbH“, „Müller G.m.b.H.“ und „Fa. Müller“ dieselbe Firma? Ohne saubere Deduplizierung zerfällt der Graph in Dubletten, und die Antworten werden unvollständig. Dieser Schritt verschlingt erfahrungsgemäß einen Großteil des Aufwands und entscheidet maßgeblich über die Qualität des Ergebnisses.

Genauigkeit, Erklärbarkeit und das Vertrauen ins System.

Ein wesentlicher Vorteil von GraphRAG gegenüber reinem Vektor-RAG ist die Nachvollziehbarkeit. Wenn die KI antwortet „Kunde X ist über Lieferant Y betroffen“, kann sie den konkreten Pfad im Graphen mitliefern: X → Vertrag 4711 → Produkt Z → Lieferant Y. Diese Begründung ist prüfbar. Bei klassischem RAG bleibt oft unklar, warum die Antwort zustande kam.

Das erhöht das Vertrauen — aber nur, solange der Graph korrekt ist. Und hier liegt das Risiko: Ein Fehler in der Datenbasis pflanzt sich in jede Antwort fort, die diesen Pfad nutzt. Eine falsche Kante ist gefährlicher als ein fehlender Textschnipsel, weil sie sich überzeugend und konsistent falsch verhält. Datenqualität ist bei GraphRAG kein Nebenthema, sondern die Grundlage.

Praktisch bewährt hat sich, dem System eine ehrliche Unsicherheits-Kommunikation beizubringen: Wenn ein Pfad auf automatisch extrahierten, ungeprüften Beziehungen beruht, sollte die Antwort das kenntlich machen — „Diese Verbindung stammt aus einer automatischen Auswertung und ist nicht verifiziert.“ Das ist weniger beeindruckend, aber deutlich verantwortbarer.

Aufwand, Kosten und ein realistischer Einstieg.

Ein GraphRAG-Projekt ist aufwendiger als ein RAG-Prototyp. Während ein einfacher Dokumenten-Assistent in wenigen Wochen steht, braucht ein belastbarer Wissensgraph mehr. Realistisch sind für einen ersten produktiven Anwendungsfall im Mittelstand etwa drei bis sechs Monate, abhängig vor allem von der Datenlage.

Die Investition für einen ersten abgegrenzten Use-Case bewegt sich typisch zwischen 60.000 und 180.000 Euro, der Löwenanteil davon in Datenaufbereitung und Entitäts-Auflösung, nicht in der KI selbst. Laufende Kosten — Graph-Datenbank, Modell-Aufrufe, Pflege — liegen häufig im Bereich von 2.000 bis 6.000 Euro monatlich. Wer die Pflege unterschätzt, baut einen Graphen, der nach einem Jahr veraltet ist und falsche Antworten liefert.

Der vernünftige Einstieg ist eng abgegrenzt: ein Datenbereich, in dem die Beziehungen klar definiert sind und überwiegend aus strukturierten Quellen stammen — etwa Kunde-Vertrag-Produkt-Beziehungen aus dem CRM. Dort lässt sich der Nutzen messen, bevor man die schwierigere Text-Extraktion angeht. Wer mit dem komplexesten Teil beginnt, riskiert ein Projekt, das nie produktiv wird.

Grenzen, die man von Anfang an einkalkulieren sollte.

Drei Grenzen sind besonders relevant. Erstens: Ein Wissensgraph ist nur so aktuell wie seine Pflege. Beziehungen ändern sich — Kunden wechseln Lieferanten, Verträge laufen aus. Ohne automatisierte oder zumindest regelmäßige Aktualisierung driftet der Graph von der Realität weg und wird zur Fehlerquelle.

Zweitens: GraphRAG löst nicht das Halluzinations-Problem der Sprachmodelle, es verkleinert es nur. Das Modell kann immer noch über einen korrekten Graphen eine falsche Schlussfolgerung formulieren. Der Graph liefert besseren Kontext, aber keine Garantie.

Drittens: Der Mehraufwand rechnet sich nicht für jede Organisation. Für ein Unternehmen mit überschaubarem Dokumentenbestand und wenig vernetzten Daten ist ein gut gemachtes klassisches RAG die wirtschaftlichere Wahl. GraphRAG ist ein Werkzeug für genau die Fälle, in denen Beziehungen den eigentlichen Wert tragen — und in denen man bereit ist, in saubere Daten zu investieren. Diese ehrliche Vorab-Einschätzung erspart teure Enttäuschungen.

Sie sind unsicher, ob Ihre wertvollsten Fragen wirklich Beziehungen betreffen — oder ob ein einfacheres RAG-Setup genügt? Unverbindlich anfragen — wir schauen gemeinsam auf Ihre Datenlandschaft, typische Fragestellungen und vorhandene Stammdaten und schätzen ehrlich ab, ob sich der Graph-Aufwand für Sie lohnt.