Reranking

Wer etwas sucht, bekommt eine Liste von Ergebnissen. Die Reihenfolge dieser Liste entscheidet fast alles, denn die meisten Menschen lesen nur die ersten Einträge. Reranking bedeutet, dass eine solche Liste ein zweites Mal sortiert wird. Zuerst sammelt ein schnelles Verfahren viele Kandidaten ein, zum Beispiel hundert Dokumente. Danach prüft ein aufwendigeres Verfahren jeden dieser Kandidaten genauer und ordnet sie neu. Das Ergebnis ist dieselbe Menge an Treffern, aber in einer besseren Reihenfolge.

Warum die erste Trefferliste selten die beste Reihenfolge hat

Die erste Suche muss über riesige Datenmengen laufen. Bei Millionen Dokumenten kann man nicht jedes einzeln sorgfältig bewerten. Deshalb arbeitet dieser Schritt mit Abkürzungen: Er vergleicht grobe Zahlenkennzeichen oder zählt übereinstimmende Wörter. Das ist blitzschnell, aber ungenau. Ein Dokument kann viele passende Wörter enthalten und die Frage trotzdem nicht beantworten.

Ein Beispiel: Jemand sucht „Wie kündige ich meinen Handyvertrag vorzeitig?“. Die erste Suche findet Seiten mit den Wörtern Handyvertrag, kündigen und vorzeitig. Darunter ist auch Werbung für neue Verträge. Erst eine genauere Prüfung erkennt, welche Seite tatsächlich eine Kündigungsfrist erklärt. Reranking sorgt dafür, dass diese Seite auf Platz eins rutscht.

Besonders wichtig ist das, wenn ein Sprachmodell die Treffer weiterverarbeitet. Solche Modelle bekommen nur begrenzt Text als Grundlage mit, oft nur die besten fünf Dokumente. Steht die richtige Quelle auf Platz vierzig, wird sie einfach nicht mitgeliefert. Das Modell antwortet dann selbstsicher und falsch. Ein guter Reranker verhindert genau diesen Fehler.

Wie ein Reranker Frage und Text gemeinsam liest

Der Unterschied liegt darin, wann Frage und Dokument aufeinandertreffen. Bei der schnellen Vorsuche wird jedes Dokument schon vorher in eine Zahlenreihe umgerechnet und gespeichert. Die Frage wird ebenfalls in Zahlen umgerechnet. Dann sucht das System nur noch, welche Zahlenreihen sich ähnlich sind. Frage und Dokument werden also nie zusammen betrachtet.

Ein Reranker macht es umgekehrt. Er bekommt Frage und Dokument als ein einziges Textstück und liest beides gemeinsam. Am Ende gibt er eine Punktzahl aus, etwa 0,92 für sehr passend und 0,04 für unpassend. Diese Bauweise heißt Cross-Encoder, weil Frage und Text im Modell verschränkt verarbeitet werden. Sie erkennt Feinheiten wie Verneinungen oder Zeitangaben deutlich besser.

Der Preis dafür ist Rechenzeit. Man kann nichts vorberechnen, denn jede neue Frage erzwingt eine neue Prüfung jedes Dokuments. Bei einer Million Dokumenten wäre das unbezahlbar. Bei hundert vorsortierten Kandidaten ist es machbar. Deshalb ist Reranking fast immer ein zweiter Schritt und niemals der erste. Man kann sich das wie eine Bewerbung vorstellen: Ein Computer sortiert erst tausend Lebensläufe grob vor, dann führt ein Mensch fünfzig Gespräche.

Reranking in Suchmaschinen, Onlineshops und KI-Assistenten

Große Suchmaschinen arbeiten seit Jahren so. Auch Onlineshops nutzen das Prinzip, wenn sie Produkte nach Passung, Bewertungen und Verfügbarkeit neu ordnen. Empfehlungslisten bei Streamingdiensten entstehen ebenfalls in zwei Stufen. Sichtbar ist davon nichts, man merkt es nur an brauchbaren oder unbrauchbaren Ergebnissen.

In KI-News taucht der Begriff meist im Zusammenhang mit Firmenchatbots auf. Solche Systeme durchsuchen interne Dokumente und formulieren daraus eine Antwort. Dieses Verfahren nennt man RAG, kurz für retrieval-augmented generation, also Textgenerierung mit vorher gesuchten Quellen. Anbieter wie Cohere, Voyage AI oder Jina verkaufen fertige Reranker-Modelle dafür. Sie werben damit, dass sich die Antwortqualität ohne ein neues Sprachmodell verbessern lässt.

Ein häufiger Irrtum: Reranking findet keine neuen Treffer. Was die erste Suche übersehen hat, bleibt für immer verloren. Wer also nur zehn Kandidaten vorsortiert, holt mit dem besten Reranker nichts heraus. Deshalb übergibt man in der Praxis lieber fünfzig bis hundert Kandidaten. Reranking verbessert die Reihenfolge, nicht den Inhalt der Liste.