Agent Hooks

Manche KI-Programme beantworten nicht nur Fragen, sondern erledigen mehrschrittige Aufgaben selbstständig. Sie durchsuchen Dateien, schreiben Text, starten Befehle auf dem Computer. Solche Programme nennt man Agenten. Ihr Ablauf besteht aus vielen kleinen Schritten, die nacheinander passieren. Agent Hooks sind vorher festgelegte Stellen in diesem Ablauf, an denen das Programm kurz anhält und eine vom Menschen hinterlegte Anweisung ausführt. Der Name kommt vom englischen Wort für Haken: Man hängt an einer bestimmten Stelle etwas ein.

Warum Agenten eine Notbremse brauchen

Ein Agent trifft seine Entscheidungen selbst. Genau das macht ihn nützlich und zugleich riskant. Wenn er eine Datei löschen darf, kann er die falsche Datei löschen. Wenn er E-Mails verschicken darf, kann er die falsche Adresse wählen. Ohne Kontrollpunkte merkt man das erst hinterher.

Hooks lösen dieses Problem, ohne dass man das KI-Modell selbst verändern muss. Man legt eine Regel außerhalb des Modells fest: Bevor ein Befehl ausgeführt wird, prüft ein kleines Programm, ob er erlaubt ist. Diese Prüfung ist deterministisch, das heißt, sie liefert bei gleicher Eingabe immer dasselbe Ergebnis. Ein Sprachmodell tut das nicht, es kann bei derselben Frage unterschiedlich antworten.

Ein häufiger Irrtum ist, man könne dem Modell die Regeln einfach in der Anweisung mitgeben. Das funktioniert oft, aber eben nicht immer. Ein Hook dagegen ist normaler Programmcode und lässt sich nicht überreden. Für Firmen ist dieser Unterschied entscheidend, weil sie ihre Regeln nachweisen müssen.

Haltepunkte im Ablauf eines Agenten

Ein Agent arbeitet in Schleifen. Er überlegt, wählt ein Werkzeug aus, benutzt es, sieht sich das Ergebnis an und überlegt erneut. Zwischen diesen Etappen liegen die typischen Haltepunkte. Verbreitet sind: vor dem Werkzeugaufruf, nach dem Werkzeugaufruf, beim Eintreffen einer Nutzeranfrage und am Ende einer Sitzung.

An jedem dieser Punkte kann ein Entwickler eine eigene Funktion hinterlegen. Diese Funktion bekommt die Daten des Schritts übergeben, etwa den geplanten Befehl. Sie kann daraufhin drei Dinge tun: durchwinken, verändern oder blockieren. Blockiert sie, erhält der Agent eine Fehlermeldung und muss sich einen anderen Weg überlegen.

Ein konkretes Beispiel: Ein Hook vor jedem Terminalbefehl prüft den Text auf das Wort „rm -rf“, mit dem sich ganze Ordner löschen lassen. Findet er es, bricht er ab und schreibt einen Eintrag ins Protokoll. Ein zweiter Hook nach jeder Dateiänderung startet automatisch die Tests des Projekts. Beides sind wenige Zeilen Code, wirken aber bei jedem einzelnen Durchlauf.

Hooks in heutigen Entwickler-Werkzeugen

Am häufigsten trifft man auf Hooks in KI-Assistenten fürs Programmieren. Werkzeuge wie Claude Code, Cursor oder OpenAI Codex bieten Konfigurationsdateien an, in denen man solche Haltepunkte einträgt. Auch Programmbibliotheken für den Bau eigener Agenten, etwa LangChain, kennen dieses Prinzip unter Namen wie Callbacks oder Middleware.

In Unternehmen dienen Hooks vor allem der Nachvollziehbarkeit. Jeder Schritt eines Agenten wird mitgeschrieben, inklusive Zeitpunkt, Kosten und Ergebnis. Wenn später etwas schiefgeht, lässt sich die Kette rekonstruieren. Dieses Mitschreiben nennt man Observability, also Beobachtbarkeit eines Systems von außen.

In Nachrichten tauchen Agent Hooks meist dann auf, wenn es um die Sicherheit autonomer Systeme geht. Sie sind kein Marketingbegriff, sondern ein technisches Detail. Wer über Agenten liest, sollte sie als das verstehen, was sie sind: die Stellen, an denen ein Mensch dem Programm noch ins Lenkrad greifen kann.