Hybrid Search wenn reine Vektorsuche nicht reicht.

Vektorsuche gilt als der große Fortschritt bei der Dokumentensuche: Statt nach exakten Wörtern zu suchen, findet sie Texte, die inhaltlich passen, auch wenn andere Begriffe verwendet werden. Das ist beeindruckend — bis ein Mitarbeiter nach einer konkreten Artikelnummer, einem Eigennamen oder einer exakten Fehlermeldung sucht und der Assistent inhaltlich Ähnliches, aber eben nicht das Gesuchte liefert. Genau an diesen Stellen zeigt reine semantische Suche ihre Schwäche. Die robuste Antwort ist meist kein Entweder-oder, sondern eine Kombination: klassische Schlagwortsuche (BM25) für exakte Begriffe, Vektorsuche für Bedeutung — und ein nachgeschalteter Reranking-Schritt, der die zusammengeführte Trefferliste noch einmal sortiert. Dieser Beitrag erklärt, warum die Mischung beider Welten in der Praxis fast immer bessere Treffer liefert als jede Methode allein, wie man sie zusammenführt, was Reranking bringt — und wo die zusätzliche Komplexität ihren Preis hat.

Wo reine Vektorsuche systematisch scheitert.

Vektorsuche übersetzt Texte in Zahlenvektoren, sodass inhaltlich ähnliche Texte nahe beieinander liegen. Das ist stark, wenn es um Bedeutung geht: Eine Frage nach „Kündigungsfrist“ findet auch Passagen, die von „Vertragsende“ oder „Beendigung des Arbeitsverhältnisses“ sprechen. Bei exakten Zeichenketten versagt dieser Mechanismus aber regelmäßig.

Typische Problemfälle sind Artikelnummern wie „BTX-4471-A“, Eigennamen, Aktenzeichen, Versionsbezeichnungen oder exakte Fehlercodes. Für ein Embedding-Modell sehen „BTX-4471-A“ und „BTX-4471-B“ fast gleich aus — semantisch sind sie es, aber praktisch handelt es sich um zwei verschiedene Produkte. Eine reine Vektorsuche kann hier konsequent das falsche Ergebnis oben einsortieren.

Klassische Schlagwortsuche hat genau das umgekehrte Profil: Sie findet exakte Begriffe zuverlässig, versteht aber keine Bedeutung. Wer „Auto“ sucht, findet nicht „Fahrzeug“. Die beiden Verfahren sind also nicht Konkurrenten, sondern ergänzen sich in ihren Schwächen fast perfekt.

Was BM25 leistet und warum es nicht veraltet ist.

BM25 ist ein bewährtes Ranking-Verfahren der Schlagwortsuche. Vereinfacht gesagt bewertet es, wie oft die Suchbegriffe in einem Dokument vorkommen, gewichtet seltene Begriffe stärker als häufige und berücksichtigt die Dokumentlänge, damit lange Texte nicht automatisch bevorzugt werden.

Obwohl die Methode konzeptionell älter ist als die heutige KI-Welle, ist sie keineswegs überholt. Für exakte Begriffe, Fachvokabular und seltene Bezeichnungen ist sie oft präziser als jede semantische Suche — und sie ist extrem schnell, transparent und ressourcensparend. Man sieht genau, warum ein Treffer gefunden wurde: weil der Begriff vorkommt.

Diese Transparenz ist in der Praxis ein Wert für sich. Wenn ein Nutzer fragt, warum ein bestimmtes Dokument gefunden wurde, lässt sich das bei BM25 nachvollziehbar beantworten. Bei reiner Vektorsuche bleibt die Begründung oft im Dunkeln.

Wie man beide Trefferlisten zusammenführt.

Hybrid Search bedeutet, dieselbe Anfrage parallel über beide Verfahren laufen zu lassen und die Ergebnisse zu kombinieren. Die Herausforderung dabei: Die Bewertungen beider Methoden liegen auf völlig unterschiedlichen Skalen und lassen sich nicht direkt addieren.

Ein robustes und verbreitetes Verfahren ist die sogenannte Reciprocal Rank Fusion. Statt die Roh-Bewertungen zu vermischen, betrachtet sie nur die Rangposition eines Dokuments in jeder Liste. Ein Dokument, das in beiden Listen weit oben steht, landet im kombinierten Ranking ganz oben. Der Charme: Es braucht keine heikle Normalisierung der Bewertungsskalen, und es ist erstaunlich robust.

Alternativ kann man die Bewertungen beider Verfahren gewichtet kombinieren — etwa 60 Prozent Vektor, 40 Prozent BM25. Das gibt mehr Kontrolle, erfordert aber Normalisierung und Tuning. Für die meisten Einstiege ist die rangbasierte Fusion der pragmatischere Weg, weil sie ohne viel Feinjustage gute Ergebnisse liefert.

Reranking als zweite Stufe.

Such- und Fusionsverfahren liefern eine vorsortierte Kandidatenliste — typischerweise die besten 20 bis 100 Treffer. Diese Liste ist gut, aber nicht perfekt sortiert. Hier setzt Reranking an: Ein spezialisiertes Modell betrachtet jede Frage gemeinsam mit jedem Kandidaten und bewertet deren Passung deutlich genauer als der erste, schnelle Schritt.

Der Unterschied liegt im Aufwand pro Vergleich. Die erste Suchstufe muss gegen tausende oder Millionen Dokumente arbeiten und muss deshalb schnell und grob sein. Der Reranker arbeitet nur mit der kleinen Kandidatenliste und kann sich pro Paar viel mehr Zeit nehmen. Das hebt die Qualität der obersten Treffer — also genau der Stellen, die später ins Sprachmodell wandern — oft spürbar.

Der Preis: zusätzliche Latenz und Kosten. Reranking fügt typischerweise einige hundert Millisekunden hinzu und verursacht je nach Anbieter laufende Kosten. Für Anwendungen, bei denen die Antwortqualität zählt, lohnt sich das meist; für sehr latenzkritische Massenanwendungen muss man abwägen.

Realistische Qualitätsgewinne und ihre Grenzen.

Die ehrliche Antwort auf die Frage „Wie viel besser wird es?“ lautet: Es kommt darauf an. Der Gewinn durch Hybrid Search ist dort am größten, wo viele exakte Begriffe, Eigennamen oder Codes im Spiel sind — technische Dokumentationen, Ersatzteilkataloge, juristische Texte. Dort, wo es fast nur um sprachliche Bedeutung geht, ist der Zusatznutzen kleiner.

Als grobe Orientierung: In begriffslastigen Beständen kann die Kombination die Trefferqualität gegenüber reiner Vektorsuche merklich heben, und Reranking legt noch einmal etwas drauf. Wer eine präzise Prozentzahl verspricht, sollte misstrauisch machen — der reale Effekt hängt stark von Daten und Fragen ab und lässt sich nur am eigenen Bestand seriös messen.

Wichtig ist die Erkenntnis, dass auch Hybrid Search keine Wunder vollbringt. Wenn die richtige Information schlecht aufbereitet, veraltet oder gar nicht vorhanden ist, hilft kein Such-Verfahren. Die Suchqualität ist immer nur so gut wie die Datenbasis darunter.

Komplexität, Betrieb und Kosten.

Hybrid Search ist mächtiger als reine Vektorsuche, aber auch aufwendiger im Betrieb. Statt eines Index pflegt man zwei — einen für die Schlagwortsuche, einen für die Vektoren — und muss beide synchron halten, wenn Dokumente hinzukommen oder sich ändern.

Die gute Nachricht: Viele moderne Suchsysteme und Vektordatenbanken unterstützen Hybrid Search inzwischen direkt, sodass man nicht alles selbst zusammenstecken muss. Das senkt den Integrationsaufwand erheblich gegenüber einer Eigenbau-Lösung.

Bei den Kosten kommen zwei Posten hinzu: das Reranking-Modell und der etwas höhere Speicher- und Rechenbedarf für den doppelten Index. Beides ist überschaubar, sollte aber von Anfang an eingeplant werden. Wer mit kleinen Beständen startet, wird die Kosten kaum spüren; bei Millionen Dokumenten wird die Architektur zur ernsthaften Planungsfrage.

Ein pragmatischer Einführungspfad.

Man muss nicht alles auf einmal bauen. Ein bewährter Pfad geht stufenweise vor:

• Schritt 1: Mit reiner Vektorsuche starten und an realen Testfragen messen, wo sie versagt. Oft sind es genau die begriffslastigen Fragen.
• Schritt 2: BM25 ergänzen und die Trefferlisten per rangbasierter Fusion kombinieren. Schon dieser Schritt behebt die meisten Probleme mit Eigennamen und Codes.
• Schritt 3: Reranking hinzunehmen, wenn die obersten Treffer noch nicht präzise genug sind — und prüfen, ob der Latenz- und Kostenaufschlag den Qualitätsgewinn rechtfertigt.

Dieser Weg hat den Vorteil, dass jeder Schritt messbar ist und man nur das hinzufügt, was nachweislich hilft. So vermeidet man, von vornherein eine überkomplexe Pipeline zu bauen, deren einzelne Teile niemand mehr beurteilen kann.

Wann sich der Aufwand lohnt — und wann nicht.

Hybrid Search mit Reranking ist kein Selbstzweck. Für einen kleinen, sprachlich homogenen Dokumentbestand kann reine Vektorsuche völlig ausreichen, und die zusätzliche Komplexität wäre überzogen. Der Mehraufwand zahlt sich dort aus, wo Nutzer regelmäßig nach exakten Bezeichnungen suchen, wo Fehltreffer echte Kosten verursachen oder wo das System geschäftskritische Auskünfte geben soll.

Ein ehrlicher Test vor der Entscheidung lohnt sich immer: einen Satz realer Fragen anlegen, reine Vektorsuche dagegenhalten und schauen, welche Fragen scheitern. Wenn ein nennenswerter Teil an exakten Begriffen scheitert, ist Hybrid Search die richtige Antwort. Wenn nicht, spart man sich die Komplexität.

Diese datenbasierte Herangehensweise verhindert sowohl das Überengineering als auch den umgekehrten Fehler, eine reine Vektorsuche einzusetzen, wo sie strukturell nicht passt — und beides kostet im Betrieb mehr, als ein sauberer Test vorher gekostet hätte.

Ihre KI-Suche findet Ähnliches, aber nicht das exakt Gesuchte — Artikelnummern, Eigennamen, Codes gehen unter? Unverbindlich anfragen — wir testen an Ihren echten Suchanfragen, ob Hybrid Search und Reranking den Unterschied machen, und bauen nur die Stufen, die nachweislich Trefferqualität bringen.