RAG, Hybridsuche oder Wiki-Schicht: ein Faktencheck

Ein Erklärvideo des YouTube-Kanals The Node AI bestreitet einen Satz, der in vielen Einführungen steht: RAG sei eine Vektordatenbank. Der Vergleich im Video lautet, das sei so zutreffend wie „ein Auto ist ein Reifen". Weil das Video seine Quellen offenlegt, lassen sich die Behauptungen nachprüfen. Dieser Artikel hält sie gegen die Originale von Anthropic, Andrej Karpathy und das Suchwerkzeug qmd.

Was RAG bezeichnet

RAG steht für Retrieval-Augmented Generation. Der Ablauf hat vier Schritte: Eine Frage kommt an, das System sucht in einer Wissensbasis nach passenden Stellen, lädt sie in den Kontext des Modells, und erst danach wird die Antwort erzeugt. In dieser Kette ist nicht festgelegt, wie gesucht werden soll. Im ursprünglichen Aufsatz von Patrick Lewis und Kollegen aus dem Jahr 2020 war der Sucher tatsächlich ein dichter Vektorindex, und daraus ist die verbreitete Gleichsetzung entstanden. Der Suchschritt kann aber ebenso eine Stichwortsuche, eine Datenbankabfrage oder der Aufruf eines Fremddienstes sein.

Vier Wege, Wissen in ein Modell zu bringen

Das Video ordnet vier Grundformen ein, und diese Einteilung trägt.

1. Nicht suchen, alles laden. Anthropic empfiehlt das für Wissensbestände unter etwa 200.000 Token, ungefähr 500 Seiten, weil dann kein Suchsystem die richtige Stelle vorab aussortieren kann. Die Grenze bemisst sich an der Tokenmenge, nicht an der Dateizahl: Fünf lange Bücher sind schwieriger als fünfhundert kurze Notizen. Zu viel irrelevanter Kontext kann die relevante Stelle überdecken, ein größeres Kontextfenster verbessert die Antwort also nicht von selbst.
2. Die lexikalische Suche über wörtliche Übereinstimmung, meist mit dem Verfahren BM25. Sie gewichtet, wie oft ein Begriff im Dokument steht und wie selten er im Gesamtbestand ist. Treffsicher ist sie dort, wo die genaue Zeichenfolge zählt: Fehlercodes, Artikelnummern, Eigennamen.
3. Die semantische Suche über Embeddings, die Bedeutungen vergleicht statt Zeichenfolgen. Sie findet die Notiz „Reisevorbereitung Italien" auch bei der Anfrage „Urlaubsplanung". Ihre Qualität hängt am Chunking, also daran, wo die Dokumente zerschnitten werden; eine mitten durchgeschnittene Aussage ist nur noch halb auffindbar.
4. Die Hybridsuche, die beide Verfahren parallel laufen lässt und ihre Trefferlisten verschmilzt, gefolgt von einem Reranking, das die verbliebenen Kandidaten einzeln gegen die Anfrage prüft.

Was der Abgleich mit den Quellen bestätigt

Die genannten Zahlen halten der Prüfung stand. Anthropic beziffert den Anteil der Suchläufe, in denen die benötigte Stelle unter den zwanzig besten Treffern fehlte, mit 5,7 Prozent; mit kontextangereicherten Embeddings sank er auf 3,7 Prozent, zusammen mit einem ebenso angereicherten lexikalischen Index auf 2,9 Prozent und mit nachgeschaltetem Reranking auf 1,9 Prozent. Das sind die im Video referierten relativen Verbesserungen von 49 und 67 Prozent. Auch die Namenserklärung trifft zu: BM steht für „Best Matching", und die Ziffer bezeichnet eine von mehreren Ranking-Formeln, die für das Suchsystem Okapi an der City University London entwickelt wurden.

Zwei Angaben nennt das Video nicht, obwohl sie unmittelbar praktisch sind. Anthropic hat zwanzig übergebene Abschnitte gegen fünf und zehn getestet, und zwanzig gewannen; der Reranker verengte dabei 150 Kandidaten auf diese zwanzig.

Die Technik, die im Video nur angedeutet wird

Hybridsuche mit Reranking ist gängige Praxis. Der eigentliche Beitrag des Anthropic-Textes ist Contextual Retrieval, und es kommt im Video als Halbsatz vor. Dabei stellt ein Sprachmodell jedem Abschnitt vor der Indexierung 50 bis 100 Token Einordnung voran. Aus dem Satz „Der Umsatz des Unternehmens wuchs gegenüber dem Vorquartal um 3 Prozent" wird ein Abschnitt, der Unternehmen, Quartal und Vergleichswert selbst benennt. Die Einordnung geht in beide Indizes ein, in das Embedding und in den lexikalischen Index. Der Aufwand fällt einmalig beim Import an und kostet laut Anthropic rund einen US-Dollar je Million Dokument-Token, sofern der Dokumenttext im Zwischenspeicher des Modells wiederverwendet wird.

Damit greift diese Maßnahme genau an der Stelle, die das Video selbst als qualitätsentscheidend benennt: dem Chunking. Sie verbessert die Schnitte nicht, sie gleicht ihre Folgen aus.

Warum ein hoher Relevanzwert nichts beweist

Der lehrreichste Teil des Videos ist eine Messung am eigenen Bestand von knapp 2000 Notizen. Bei der umschreibenden Anfrage „Videos automatisch schneiden lassen" liefert die reine Stichwortsuche einen Relevanzwert von 91 Prozent auf ein Dokument über lokale KI-Modelle, also einen Fehlgriff. Der Autor zieht daraus den richtigen Schluss, dass ein hoher Wert kein Wahrheitsbeweis ist.

Der Grund dahinter lässt sich präzisieren. BM25-Werte sind nach oben offen und keine Wahrscheinlichkeiten. Was als Prozentzahl erscheint, muss deshalb eine Normierung innerhalb der jeweiligen Trefferliste sein, und die sagt aus, dass ein Treffer der beste gefundene war, nicht dass er passt. Für den Hybridpfad dokumentiert qmd dagegen feste Wertebereiche, weil dort über Reciprocal Rank Fusion die Rangpositionen verrechnet werden statt der unvergleichbaren Rohwerte.

Belastbar wird ein Retrieval erst über einen festen Satz realer Fragen, bei denen vorher feststeht, welche Quellen gefunden werden müssten. Das Video sagt das selbst, und Anthropic schreibt es ebenfalls.

Rohquellen oder vorverdichtetes Wissen

Die zweite Achse des Videos ist die interessantere: Nicht wie gesucht wird, sondern worin. Bezugspunkt ist ein Textentwurf von Andrej Karpathy vom 4. April 2026, der ein von einem Sprachmodell gepflegtes Wiki über den Rohquellen beschreibt. Unten liegen unveränderliche Originale, darüber vom Modell geschriebene Themen- und Entitätenseiten, daneben eine Schema-Datei, die Aufnahme, Abfrage und Pflege regelt. Karpathys Argument gegen reines Retrieval: Das Modell entdeckt das Wissen bei jeder Frage neu, nichts baut sich auf. Die Arbeit verschwindet nicht, sie wandert von der Anfragezeit in die Importzeit.

Karpathy begründet das ökonomisch, und diese Begründung fehlt im Video. Der mühsame Teil eines Wikis war nie das Lesen oder das Denken, sondern die Buchhaltung: Querverweise nachziehen, Indizes aktualisieren, Widersprüche finden. Ein Modell fasst dafür in einem Durchgang zehn bis fünfzehn Seiten an und wird nicht müde. Genau der Grund, aus dem Menschen ihre Wikis aufgeben, fällt damit weg.

Praktisch wirkt die Schicht als Verdichtung: Aus mehreren Millionen Token Rohbestand werden im Beispiel des Videos rund 40 Wiki-Seiten mit unter 100.000 Token, und damit ist der erste Weg wieder erreichbar, nämlich alles laden.

Was gegen die Wiki-Schicht spricht

Jede Verdichtung kann Details verlieren, und Zusammenfassungen aus Zusammenfassungen verstärken frühe Fehler. Das Video begegnet dem mit drei Sperren: immer gegen die Originalquelle schreiben, Widersprüche sichtbar markieren statt stillschweigend auflösen, regelmäßig auf veraltete Aussagen und tote Verweise prüfen. Karpathy nennt den letzten Punkt Lint und behandelt Wissensdrift als das Hauptrisiko des Musters.

Ein Einwand bleibt auch dann bestehen, und er ist struktureller Art. Ein Retrieval lässt sich messen, weil die Frage „landet das richtige Dokument oben?" ein prüfbares Ergebnis hat. Für eine Synthese gibt es kein Gegenstück: Ob eine Zusammenfassung heute noch stimmt, prüft nur Lesen. Wer eine Wiki-Schicht baut, gibt damit die Messbarkeit seiner Trefferqualität teilweise auf, und deshalb muss die Rohschicht die verbindliche bleiben. Eine Quellenangabe schützt davor nicht: Sie belegt, dass eine Quelle gefunden wurde, nicht dass sie aktuell ist oder die Aussage stützt.

Fazit

Die Entscheidung hängt nicht an der Datenmenge, wie das Video zu Recht gegen einen Zuschauereinwand festhält, sondern am Verhältnis von Änderungsrate zu Wiederverwendung: Ein Wiki lohnt sich, wenn dieselbe Zusammenschau wiederholt gebraucht wird und die Quellen ruhig liegen; direktes Retrieval gewinnt bei einmaligen Fragen auf ständig wachsendem Bestand. Wer aus dem Thema eine einzelne Maßnahme mitnehmen will, sollte die Kontextanreicherung der Abschnitte nehmen und nicht die Wahl der Datenbank.

Quellen

• RAG, Hybrid-Suche oder Wiki? Die Architektur-Entscheidung, The Node AI (YouTube, 17:30 min)
• Contextual Retrieval in AI Systems, Anthropic, September 2024
• Gist zum LLM-Wiki-Muster, Andrej Karpathy, 4. April 2026
• tobi/qmd — lokale Hybridsuche über Markdown-Bestände, das im Video eingesetzte Werkzeug
• Patrick Lewis u.a.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, 2020