Backstop
Ein Backstop ist eine vertragliche oder gesetzliche Notfallregelung, die einspringt, wenn ein ursprünglicher Plan scheitert. Im KI-Kontext bezeichnet der Begriff Mechanismen, die verhindern sollen, dass ein KI-System unkontrollierbar wird oder unerwünschte Entscheidungen trifft.
Ein Backstop ist eine Rückfalloption, die greift, wenn ein primärer Plan oder eine primäre Absicherung versagt. Der Begriff kommt aus dem Englischen und bedeutet wörtlich „Rückhaltevorrichtung“. Im Finanz- und Politikbereich bezeichnet er zum Beispiel Garantien, die einspringen, wenn Verhandlungen scheitern. In der KI-Sicherheit meint man damit technische oder organisatorische Vorkehrungen, die ein KI-System stoppen oder korrigieren, bevor ein Fehler ernsthafte Folgen hat. Ein Backstop ist also immer Plan B — er ist so konzipiert, dass man ihn niemals brauchen sollte, ihn aber unbedingt haben muss.
Backstops in KI-Systemen
Je mächtiger ein KI-System wird, desto wichtiger wird die Frage: Was passiert, wenn es etwas Falsches tut? Ein Backstop ist die Antwort auf genau diese Frage. Er stellt sicher, dass Menschen eingreifen können, bevor ein Fehler sich ausbreitet oder unumkehrbar wird.
Ohne solche Mechanismen wäre es gefährlich, KI-Systemen Aufgaben mit echten Konsequenzen zu übertragen — etwa in der Medizin, im Bankwesen oder in autonomen Fahrzeugen. Regulierungsbehörden in der EU und den USA verlangen deshalb zunehmend, dass Hersteller nachweisen können, wie ihr Backstop aussieht. Der EU AI Act, das europäische KI-Gesetz, schreibt für Hochrisikosysteme explizit menschliche Aufsicht und Notabschaltmöglichkeiten vor.
Technische Umsetzung
In der Praxis kann ein Backstop viele Formen annehmen. Die einfachste ist ein sogenannter Kill Switch: ein Mechanismus, der das System bei Bedarf sofort abschaltet. Komplexere Varianten überwachen laufend, ob die Ausgaben des Modells bestimmte Grenzwerte überschreiten — etwa ob ein Chatbot wiederholt gefährliche Inhalte produziert. Überschreitet er den Schwellenwert, wird er automatisch in einen eingeschränkten Modus versetzt.
Ein anderer Ansatz heißt „Human in the Loop“ — auf Deutsch: Mensch in der Schleife. Dabei trifft das KI-System keine endgültige Entscheidung allein, sondern legt kritische Fälle einem Menschen vor. Das System läuft weiter, aber der Mensch behält das letzte Wort. Dieser Ansatz ist besonders verbreitet, wenn Entscheidungen kaum rückgängig zu machen sind, zum Beispiel bei der Kreditvergabe oder bei medizinischen Diagnosen.
Wichtig ist der Unterschied zu einem einfachen Filter: Ein Filter prüft eine einzelne Ausgabe. Ein Backstop ist systemischer — er greift auf einer höheren Ebene und überwacht das Verhalten des Systems über die Zeit. Ein schlecht designter Backstop kann dabei selbst zum Problem werden, etwa wenn er so empfindlich ist, dass er legitime Anfragen blockiert und das System unbrauchbar macht.
Wo man dem Begriff begegnet
Im Nachrichtenumfeld taucht „Backstop“ häufig in Berichten über KI-Regulierung auf. Wenn Politiker oder Unternehmenschefs darüber sprechen, wie man sicherstellt, dass fortgeschrittene KI-Systeme unter Kontrolle bleiben, ist meist ein Backstop-Mechanismus gemeint — auch wenn das Wort selbst nicht fällt.
In Produkten begegnet man dem Konzept zum Beispiel bei Content-Moderationssystemen sozialer Netzwerke: Wird ein Beitrag vom automatischen System als grenzwertig eingestuft, landet er bei einem menschlichen Moderator — dem Backstop. Auch Autopilot-Systeme in Flugzeugen arbeiten nach demselben Prinzip: Die Maschine fliegt autonom, aber der Pilot kann jederzeit übernehmen, und bestimmte Manöver kann das System gar nicht erst ohne menschliche Freigabe einleiten.
In der KI-Forschung ist der Begriff eng mit dem Thema Alignment verbunden — also der Frage, wie man sicherstellt, dass ein KI-System das tut, was Menschen wirklich wollen. Backstops gelten dabei als notwendige, aber nicht hinreichende Maßnahme: Sie fangen Fehler ab, lösen aber nicht die tieferliegende Frage, warum ein System einen Fehler überhaupt gemacht hat.