Retrieval

Retrieval ist englisch für „Abruf“ und meint das Heraussuchen passender Inhalte aus einer großen Sammlung von Dokumenten. Jemand stellt eine Frage, und ein Suchsystem holt dazu die wenigen Textstellen, die vermutlich die Antwort enthalten. Das Prinzip kennt jeder von einer Suchmaschine: Man tippt etwas ein und bekommt eine Trefferliste zurück. Neu ist, dass diese Trefferliste heute oft gar nicht mehr für Menschen gedacht ist. Stattdessen wandern die gefundenen Textstellen direkt an ein Programm, das daraus eine Antwort in ganzen Sätzen formuliert. Retrieval ist also der Suchschritt, der einer maschinell erzeugten Antwort vorausgeht.

Warum Sprachmodelle ohne Abruf raten

Ein Sprachmodell ist ein Programm, das gelernt hat, sinnvolle Texte zu schreiben. Sein Wissen stammt aus den Texten, mit denen es trainiert wurde. Dieses Wissen steckt aber nicht als Liste von Fakten im Modell, sondern nur als grobes Muster. Wenn eine Detailfrage kommt, erfindet das Modell im Zweifel eine plausibel klingende Antwort. Fachleute nennen das Halluzination.

Dazu kommt ein zweites Problem: Das Training endet zu einem bestimmten Zeitpunkt. Alles, was danach passiert ist, kennt das Modell nicht. Ein Modell von 2024 weiß nichts über den Quartalsbericht von letzter Woche. Neu trainieren wäre der teuerste denkbare Weg, so etwas nachzuliefern.

Retrieval löst beides auf einmal. Die Dokumentensammlung lässt sich jederzeit aktualisieren, ohne das Modell anzufassen. Und weil die Antwort auf konkret gefundenen Textstellen beruht, kann das System seine Quelle mit angeben. Genau deshalb ist Retrieval für Unternehmen so interessant: Eine Antwort ohne nachprüfbare Quelle ist in vielen Bereichen wertlos.

Von der Frage zur Trefferliste

Zuerst wird die Dokumentensammlung in kleine Stücke zerlegt, meist wenige Absätze lang. Jedes Stück wird in eine lange Zahlenreihe übersetzt, ein sogenanntes Embedding. Diese Zahlenreihe beschreibt die Bedeutung des Textes. Texte mit ähnlicher Bedeutung bekommen ähnliche Zahlenreihen. Alle diese Zahlenreihen landen in einer speziellen Datenbank.

Kommt eine Frage herein, wird auch sie in so eine Zahlenreihe übersetzt. Das System sucht dann die Textstücke, deren Zahlenreihen der Frage am ähnlichsten sind. Der Vorteil gegenüber klassischer Stichwortsuche liegt auf der Hand. Wer nach „Gehaltsabrechnung“ fragt, findet auch Absätze über „Lohnzettel“, obwohl kein Wort übereinstimmt.

In der Praxis kombiniert man beide Verfahren, denn Stichwortsuche ist bei Produktnummern oder Eigennamen weiterhin unschlagbar. Am Ende gehen typischerweise drei bis zehn Textstücke zusammen mit der ursprünglichen Frage an das Sprachmodell. Ein häufiger Irrtum ist, dass mehr Treffer automatisch bessere Antworten liefern. Zu viel Material verwässert die Antwort, weil das Modell auch die unpassenden Stellen mitliest.

Retrieval in Chatbots, Suche und Firmenwissen

Am häufigsten begegnet einem das Verfahren als RAG, kurz für Retrieval Augmented Generation. Das ist die Kombination aus Abruf und anschließender Textgenerierung. Wenn ein Chatbot Links zu Webseiten unter seine Antwort setzt, hat er vorher ein Retrieval durchgeführt. Dasselbe passiert bei den zusammenfassenden Textkästen oben in Suchmaschinen.

Besonders verbreitet ist der Ansatz in Firmen. Eine Versicherung lässt ihre Mitarbeiter Vertragsbedingungen in normaler Sprache abfragen, statt in tausenden PDF-Seiten zu blättern. Banken und Kanzleien nutzen dieselbe Technik für Regelwerke. Der entscheidende Punkt: Die internen Dokumente bleiben in der eigenen Datenbank und müssen nicht in ein Modell eintrainiert werden.

In Wirtschaftsnachrichten taucht Retrieval deshalb oft im Zusammenhang mit Vektordatenbanken auf, den Spezialdatenbanken für solche Zahlenreihen. Anbieter in diesem Bereich haben in den letzten Jahren hohe Summen eingesammelt. Wer die Meldungen einordnen will, sollte eines im Kopf behalten: Retrieval macht ein Modell nicht klüger, sondern nur besser informiert.