Gatekeeper-Muster
Das Gatekeeper-Muster ist ein Bauprinzip für Software: Jede Anfrage von außen läuft zuerst durch eine einzige vorgeschaltete Stelle, die prüft, filtert und erst dann weiterleitet. In KI-Systemen sitzt dieser Türsteher meist vor dem Sprachmodell und blockt schädliche Eingaben und Ausgaben.
Stell dir einen Club mit vielen Räumen vor, aber nur einer Tür. Wer hinein will, muss am Türsteher vorbei. Der prüft den Ausweis, kontrolliert die Taschen und lässt nur durch, was in Ordnung ist. Genau so ist das Gatekeeper-Muster in der Software aufgebaut: Alle Anfragen von außen treffen zuerst auf eine einzige vorgeschaltete Stelle. Diese Stelle prüft die Anfrage und schickt sie erst dann an die eigentliche Anwendung weiter, die die Arbeit macht. Wird die Anfrage abgelehnt, erfährt die Anwendung dahinter davon nichts. Fachleute nennen ein solches wiederverwendbares Bauprinzip ein Muster, weil es sich in vielen Projekten in ähnlicher Form wiederholt.
Eine Tür statt hundert Türen
Sicherheit wird umso schwieriger, je mehr Eingänge ein System hat. Eine moderne Anwendung besteht oft aus dutzenden kleinen Programmen, die zusammenarbeiten. Müsste jedes davon selbst prüfen, ob eine Anfrage erlaubt ist, würde irgendwo ein Fehler passieren. Angreifer suchen genau diese eine vergessene Stelle. Mit einem Gatekeeper gibt es nur einen Punkt, an dem die Prüfung wirklich stattfinden muss.
Der zweite Vorteil ist praktischer Natur. Regeln ändern sich ständig: neue Angriffsarten, neue gesetzliche Vorgaben, neue Sperrlisten. Steckt die Prüfung an einer Stelle, muss man auch nur diese Stelle anpassen. Die eigentliche Anwendung bleibt unverändert, was das Risiko von Fehlern beim Umbau senkt.
Bei KI-Produkten kommt ein besonderer Grund hinzu. Ein Sprachmodell ist ein Programm, das Texte fortsetzt und dabei nie mit vollständiger Sicherheit vorhersagbar ist. Man kann ihm nicht per Befehl verbieten, eine bestimmte Antwort zu geben. Deshalb setzen Anbieter eine separate Kontrollschicht davor und dahinter, statt sich allein auf das Verhalten des Modells zu verlassen.
Was der Türsteher konkret prüft
Technisch ist der Gatekeeper ein eigener kleiner Dienst mit einer öffentlichen Adresse im Internet. Nur er ist von außen erreichbar. Die dahinterliegenden Programme laufen in einem abgeschotteten Netz und nehmen Anfragen ausschließlich von ihm an. Selbst wenn jemand die Adresse eines inneren Dienstes erraten würde, käme er nicht hin.
Die Prüfungen laufen der Reihe nach ab. Zuerst wird die Identität geklärt: Ist ein gültiger Zugangsschlüssel dabei? Dann folgt die Berechtigung: Darf dieser Nutzer genau diese Aktion ausführen? Danach kommt eine Mengenbegrenzung, damit niemand das System mit tausenden Anfragen pro Sekunde überlastet. Zuletzt wird der Inhalt selbst kontrolliert, etwa auf Schadcode oder verbotene Formate.
Bei KI-Anwendungen arbeitet der Gatekeeper in beide Richtungen. Auf dem Hinweg sucht er nach Eingaben, die das Modell zu Regelbrüchen verleiten sollen. Solche Versuche heißen Prompt Injection: Der Nutzer schreibt eine Anweisung wie “Ignoriere alle bisherigen Regeln” in seinen Text. Auf dem Rückweg prüft er die fertige Antwort, bevor sie beim Nutzer ankommt. Enthält sie Beleidigungen, gefährliche Anleitungen oder versehentlich verratene Daten, wird sie ersetzt oder ganz zurückgehalten.
Der Preis dafür ist Zeit. Jede Prüfung kostet Millisekunden, und jede Antwort wird ein wenig später ausgeliefert. Außerdem ist der Gatekeeper ein einzelner Punkt, an dem alles hängt: Fällt er aus, ist das gesamte System nicht erreichbar. Deshalb betreibt man ihn in der Praxis mehrfach parallel.
Vom Chatbot bis zur Bezahl-App
Wer ChatGPT oder einen ähnlichen Assistenten benutzt, hat das Muster schon erlebt. Antworten wie “Dabei kann ich nicht helfen” stammen oft nicht vom Modell selbst, sondern von einer Filterschicht davor. Manchmal sieht man auch, wie ein Text kurz erscheint und dann wieder verschwindet. Dann hat die Prüfung der Ausgabe zu spät zugeschlagen.
Außerhalb der KI trägt dasselbe Prinzip andere Namen. In der Cloud-Technik spricht man von einem API-Gateway, in der Netzwerktechnik von einer Firewall oder einem Reverse Proxy. Auch das Bezahlsystem eines Onlineshops arbeitet so: Deine Kartendaten gehen an einen spezialisierten Anbieter, nicht an den Shop selbst. Der Shop erfährt nur, ob die Zahlung geklappt hat.
In Wirtschaftsnachrichten wird das Wort Gatekeeper noch in einer anderen Bedeutung verwendet. Der Digital Markets Act der EU nennt große Plattformen wie Apple oder Google Gatekeeper, weil sie den Zugang zu Märkten kontrollieren. Das ist ein rechtlicher Begriff und hat mit dem technischen Bauprinzip nur die Bildsprache gemeinsam. Wer über KI-Sicherheit liest, ist beim Muster; wer über Kartellrecht liest, bei den Plattformen.
