Naives RAG

Programme wie ChatGPT erfinden Antworten aus dem, was sie beim Lernen gesehen haben. Über die Preisliste einer Firma oder die Hausordnung einer Schule wissen sie deshalb nichts. Eine Lösung: Man lässt das Programm vor dem Antworten in einer eigenen Dokumentensammlung nachschlagen. Genau das ist die Idee hinter Naivem RAG, der einfachsten Version dieses Nachschlagens. Die Frage des Nutzers löst eine Suche aus, die gefundenen Textstellen werden an die Frage angehängt, und das Programm formuliert daraus eine Antwort. „Naiv“ heißt hier nicht dumm, sondern schlicht: Es gibt genau einen Suchvorgang, ohne Prüfung, ohne Nachfragen, ohne zweiten Versuch.

Der Standardaufbau, mit dem fast jedes Projekt beginnt

Naives RAG ist die Bauform, die praktisch jede Firma zuerst ausprobiert. Der Grund ist einfach: Man braucht keine Wochen Rechenzeit, um das Modell selbst zu verändern. Man legt nur die eigenen Dokumente in eine durchsuchbare Ablage. Ein funktionierender Prototyp entsteht so an einem Nachmittag.

Der zweite Vorteil betrifft die Nachvollziehbarkeit. Weil das System konkrete Textstellen benutzt, kann es sie mit ausgeben. Der Nutzer sieht also, aus welchem Dokument die Antwort stammt. Bei einem Modell, das nur aus dem Gedächtnis antwortet, ist das unmöglich.

Wichtig ist die Abgrenzung zu den ausgefeilteren Varianten. Fachleute sprechen von „Advanced RAG“ und „Modular RAG“, wenn Schritte hinzukommen: Die Frage wird umformuliert, die Suchtreffer werden neu sortiert, das System sucht mehrfach nach. Naives RAG ist der Nullpunkt dieser Entwicklung. Wer den Begriff in einem Fachartikel liest, findet meist direkt daneben eine Liste seiner Schwächen.

Von der Frage zur Antwort in vier Schritten

Zuerst werden die Dokumente vorbereitet, lange bevor jemand fragt. Man zerlegt sie in kleine Häppchen, meist einige hundert Wörter lang. Jedes Häppchen wird in eine lange Zahlenreihe umgerechnet, die seine Bedeutung beschreibt. Texte mit ähnlichem Inhalt bekommen ähnliche Zahlenreihen. Diese Zahlenreihen landen in einer speziellen Datenbank.

Kommt dann eine Frage, wird auch sie in so eine Zahlenreihe umgerechnet. Das System sucht die Häppchen mit den ähnlichsten Zahlenreihen heraus, typischerweise die besten drei bis fünf. Diese Textstücke werden zusammen mit der Frage an das Sprachmodell geschickt. Der Auftrag lautet ungefähr: Beantworte die Frage nur mit diesen Informationen.

Man kann sich das wie eine Klausur mit erlaubtem Hilfsmittel vorstellen. Ein Assistent reicht dir wenige Zettel aus einem Aktenschrank, ausgewählt nach Stichwortähnlichkeit. Er liest sie nicht, er prüft nicht, ob die Antwort darin steht. Wenn die falschen Zettel kommen, schreibst du trotzdem etwas hin. Genau hier liegt die Schwäche: Passen die Treffer nicht, erfindet das Modell oft eine plausibel klingende Antwort.

Firmen-Chatbots und der Punkt, an dem es kippt

Naives RAG steckt in sehr vielen Werkzeugen, die man täglich benutzt. Dazu gehören die Suchfunktionen in Firmen-Wikis, Chat-Assistenten auf Support-Seiten und Programme, mit denen man PDF-Dateien Fragen stellt. Auch „Frag deine Dokumente“-Funktionen in Notiz-Apps arbeiten meist nach diesem Muster.

In Wirtschaftsnachrichten taucht der Begriff auf, wenn es um gescheiterte KI-Projekte geht. Ein typisches Muster: Die Demo mit zwanzig Dokumenten überzeugt, der Einsatz mit fünfzigtausend Dokumenten enttäuscht. Je größer die Sammlung, desto häufiger findet die Suche zwar ähnliche, aber inhaltlich falsche Stellen. Auch verstreute Informationen sind ein Problem. Eine Frage wie „Wie hat sich der Umsatz über fünf Jahre entwickelt?“ braucht Daten aus fünf Berichten, nicht aus drei Textschnipseln.

Ein verbreiteter Irrtum ist, RAG mache Falschaussagen unmöglich. Das stimmt nicht. Naives RAG senkt die Zahl der Erfindungen, beseitigt sie aber nicht. Deshalb investieren Anbieter viel Geld in bessere Suchverfahren und in Prüfschritte nach der Antwort. Wer den Begriff versteht, versteht damit auch, worüber die Branche gerade streitet.