Routing-Fehler
Ein Routing-Fehler entsteht, wenn ein System eine Anfrage an die falsche Stelle weiterleitet — etwa an ein ungeeignetes Sprachmodell oder an den falschen internen Baustein. Die Antwort kommt dann zu spät, zu teuer oder inhaltlich schwach zurück, obwohl das eigentlich zuständige Bauteil die Aufgabe gut gelöst hätte.
In vielen KI-Systemen beantwortet nicht ein einziges Programm alle Fragen. Stattdessen gibt es mehrere spezialisierte Bausteine, und eine Verteilstelle entscheidet, wer eine Anfrage bearbeitet. Diese Verteilstelle nennt man Router, das Verteilen selbst Routing. Ein Routing-Fehler liegt vor, wenn diese Entscheidung falsch ausfällt. Die Anfrage landet bei einem Baustein, der schlechter geeignet ist als ein anderer, der verfügbar gewesen wäre. Das Ergebnis ist nicht unbedingt falsch, aber schlechter, langsamer oder teurer als nötig.
Was eine falsche Weiterleitung kostet
Viele Anbieter betreiben heute mehrere Modelle nebeneinander. Ein kleines, schnelles Modell erledigt einfache Fragen für Bruchteile eines Cents. Ein großes, teures Modell rechnet länger und kostet ein Vielfaches, löst dafür aber knifflige Aufgaben. Der Router soll entscheiden, welche Frage in welche Kategorie gehört. Genau hier schlagen Fehler doppelt zu.
Geht eine schwierige Aufgabe an das kleine Modell, bekommt der Nutzer eine oberflächliche oder falsche Antwort. Geht umgekehrt eine triviale Frage an das große Modell, stimmt die Antwort, aber der Betreiber zahlt unnötig viel. Bei Millionen Anfragen pro Tag summieren sich solche Fehlentscheidungen zu erheblichen Beträgen. Deshalb ist die Qualität des Routings inzwischen ein eigener Wettbewerbsfaktor.
Dazu kommt ein Vertrauensproblem. Wenn dieselbe Frage mal gut und mal schwach beantwortet wird, wirkt das System unberechenbar. Nutzer merken selten, dass eine Verteilstelle dahintersteckt. Sie schreiben die schwankende Qualität einfach der KI insgesamt zu.
Wie Router danebengreifen
Ein Router ist meist selbst ein kleines gelerntes Programm. Er schaut sich eine Anfrage an und schätzt, wie schwer sie ist. Diese Schätzung muss extrem schnell gehen, sonst frisst sie den Zeitgewinn wieder auf. Deshalb urteilt der Router nach Oberflächenmerkmalen: Länge, Wortwahl, erkennbares Thema. Eine kurz formulierte Frage kann trotzdem sehr schwer sein — und genau daran scheitert die Schätzung regelmäßig.
Ein zweiter Fehlertyp betrifft die Verteilung selbst. In Modellen mit vielen internen Fachbausteinen, sogenannten Experten, soll der Router die Last gleichmäßig streuen. Läuft das schief, bekommen wenige Experten fast alles ab, während andere leer laufen. Man nennt das Lastungleichgewicht. Die überlasteten Bausteine werden zum Nadelöhr, und die ungenutzten haben im Training kaum etwas gelernt.
Wichtig ist die Abgrenzung zur Halluzination. Bei einer Halluzination erfindet ein Modell Inhalte. Bei einem Routing-Fehler hätte das System die richtige Antwort liefern können, hat aber den falschen Weg gewählt. Der Fehler steckt in der Organisation, nicht im Wissen.
Wo das Problem sichtbar wird
Am häufigsten begegnet man Routing-Fehlern in Chat-Assistenten mit automatischer Modellwahl. Dort gibt es oft keine sichtbare Auswahl mehr, das System entscheidet selbst. Wenn ein Assistent eine Mathematikaufgabe erstaunlich schlecht löst, die er tags zuvor beherrschte, ist eine Fehlleitung eine plausible Erklärung.
Auch außerhalb der KI ist der Begriff gebräuchlich. Im Kundenservice leiten Systeme Anrufe an Abteilungen weiter, in Netzwerken werden Datenpakete über Zwischenstationen geschickt. In beiden Fällen bedeutet ein Routing-Fehler dasselbe: richtiges Ziel vorhanden, falscher Weg gewählt. Wer in einer Warteschleife dreimal weiterverbunden wird, hat das Prinzip praktisch erlebt.
In Fachartikeln und Quartalszahlen taucht das Thema meist verpackt auf. Formulierungen wie „verbesserte Modellauswahl“ oder „optimierte Kosten pro Anfrage“ beschreiben oft nichts anderes als weniger Fehlleitungen. Gegenmittel sind bessere Trainingsdaten für den Router, Regeln für die gleichmäßige Auslastung und ein zweiter Versuch mit einem stärkeren Modell, falls die erste Antwort schwach ausfällt.
