Fallback-Chain
Eine Fallback-Chain ist eine festgelegte Reihenfolge von Ausweichmöglichkeiten: Scheitert der erste Versuch, probiert das System automatisch den zweiten, dann den dritten. In KI-Produkten sorgt sie dafür, dass eine Anfrage auch dann beantwortet wird, wenn das bevorzugte Modell gerade nicht antwortet.
Software, die Anfragen an einen fremden Dienst schickt, hat ein Grundproblem: Der Dienst kann ausfallen. Er kann überlastet sein, zu langsam antworten oder eine Fehlermeldung zurückgeben. Eine Fallback-Chain ist die vorher festgelegte Antwort auf diesen Fall. Sie ist eine geordnete Liste von Ausweichmöglichkeiten, die das System der Reihe nach durchgeht. Klappt der erste Eintrag nicht, wird automatisch der zweite versucht, dann der dritte. Der Nutzer merkt davon im Idealfall nichts, weil die Umschaltung in Sekundenbruchteilen passiert.
Warum ein Ausfall nicht das ganze Produkt lahmlegen darf
Die meisten KI-Anwendungen betreiben ihre Modelle nicht selbst. Sie schicken die Anfrage über das Internet an einen Anbieter wie OpenAI, Anthropic oder Google und bekommen die Antwort zurück. Diese Schnittstelle nennt man API. Fällt sie aus, steht ohne Vorkehrung das komplette Produkt still — auch wenn die eigene Software völlig fehlerfrei arbeitet.
Solche Ausfälle sind keine Seltenheit. Große Anbieter haben mehrmals im Jahr Störungen, die von Minuten bis zu mehreren Stunden dauern. Dazu kommen kürzere Engpässe, wenn zu viele Kunden gleichzeitig Anfragen schicken. Der Anbieter bremst dann einzelne Kunden aus und schickt statt einer Antwort eine Fehlermeldung. Für ein Unternehmen, dessen Kundenservice-Chat davon abhängt, ist das teuer.
Eine Fallback-Chain macht aus einem Totalausfall eine spürbare, aber erträgliche Verschlechterung. Die Antworten kommen vielleicht vom zweitbesten Modell und sind etwas ungenauer. Das ist fast immer besser als eine Fehlerseite. Fachleute nennen dieses Prinzip graceful degradation: Das System wird schlechter, statt einfach zu sterben.
Von der ersten Stufe zur letzten
Zwischen der Anwendung und den Modellen sitzt meist eine Vermittlungsschicht, ein sogenannter Router oder Gateway. Er kennt die Reihenfolge der Stufen. Zuerst geht die Anfrage an das bevorzugte Modell. Kommt innerhalb einer festgelegten Frist keine gültige Antwort, gilt der Versuch als gescheitert. Diese Frist heißt Timeout und liegt oft bei wenigen Sekunden.
Dann greift Stufe zwei. Das kann dasselbe Modell bei einem anderen Anbieter sein, ein schwächeres Modell desselben Anbieters oder ein kleines Modell auf eigenen Servern. Ganz am Ende steht häufig eine feste Notlösung ohne KI: ein vorformulierter Hinweistext oder eine Weiterleitung an einen Menschen. Wichtig ist, dass die Kette einen definierten Abschluss hat und nicht endlos weiterprobiert.
Zwei Details entscheiden über die Qualität. Erstens sollte das System nicht bei jeder Anfrage aufs Neue gegen einen toten Dienst laufen. Ein Circuit Breaker merkt sich deshalb, dass Stufe eins gerade ausgefallen ist, und überspringt sie für einige Minuten. Zweitens darf ein Wiederholungsversuch keine Aktion doppelt auslösen. Bei einer reinen Textantwort ist das harmlos, bei einer Bestellung oder Zahlung nicht.
Fallback-Chains in echten Produkten
Wer eine KI-Anwendung baut, trifft schnell auf das Thema. Werkzeuge wie LangChain, LiteLLM oder OpenRouter bieten Fallbacks als fertige Einstellung an: Man gibt eine Liste von Modellen an, den Rest erledigt die Bibliothek. In Stellenanzeigen für KI-Entwickler taucht der Begriff regelmäßig als erwartete Kenntnis auf.
In den Nachrichten begegnet man dem Prinzip meist indirekt. Wenn nach einem Ausfall bei einem großen Anbieter berichtet wird, dass manche Dienste weiterliefen und andere nicht, liegt der Unterschied oft genau hier. Auch die verbreitete Strategie, sich nicht von einem einzigen Anbieter abhängig zu machen, wird technisch häufig über Fallback-Chains umgesetzt.
Der Begriff stammt übrigens nicht aus der KI. Fallbacks gibt es seit Jahrzehnten, etwa bei Schriftarten: Fehlt ein Zeichen in der gewünschten Schrift, nimmt der Browser die nächste aus einer Liste. Zu unterscheiden ist die Fallback-Chain von Lastverteilung, dem Load Balancing. Dort laufen mehrere gleichwertige Server parallel, um Anfragen zu teilen. Eine Fallback-Chain hat dagegen eine klare Rangfolge und wird nur im Fehlerfall abgestiegen.
