Agent-Gerüst
Ein Agent-Gerüst ist das Programm, das um ein KI-Sprachmodell herumgebaut wird, damit dieses nicht nur Text ausgibt, sondern mehrschrittige Aufgaben selbst erledigt. Es legt fest, welche Werkzeuge das Modell benutzen darf, in welcher Reihenfolge es arbeitet und wann es aufhört.
Ein KI-Sprachmodell kann von sich aus nur eines: aus einem Text den wahrscheinlich passenden nächsten Text erzeugen. Es kann keine Datei öffnen, keine Suche starten und sich nichts merken, was länger als das aktuelle Gespräch dauert. Ein Agent-Gerüst ist das Programm, das man um dieses Modell herum baut, damit daraus trotzdem ein selbstständig arbeitender Helfer wird. Es ruft das Modell wieder und wieder auf, führt aus, was das Modell vorschlägt, und reicht das Ergebnis zurück. Der englische Fachbegriff dafür lautet Scaffolding, also Baugerüst. Das Bild passt gut: Das Gerüst denkt nicht selbst, aber ohne es käme man am Gebäude nicht in die Höhe.
Warum dasselbe Modell im guten Gerüst plötzlich mehr kann
Zwei Firmen können dasselbe Sprachmodell einkaufen und trotzdem sehr unterschiedliche Produkte anbieten. Der Unterschied steckt oft nicht im Modell, sondern im Gerüst darum herum. Bei Programmier-Assistenten ließ sich das gut beobachten: Dieselbe Modellversion löste in einem verbesserten Gerüst deutlich mehr Testaufgaben als vorher. Verändert hatte sich nur, wie oft das Modell seinen eigenen Code testen durfte und wie Fehlermeldungen zurückgespielt wurden.
Für Unternehmen ist das eine wichtige Nachricht. Ein besseres Modell zu trainieren kostet enorme Summen und dauert Monate. Ein besseres Gerüst zu bauen ist normale Softwarearbeit und kann in Wochen fertig sein. Deshalb entsteht ein großer Teil der Konkurrenz in der KI-Branche derzeit nicht bei den Modellen selbst, sondern bei der Software drumherum.
Das Gerüst ist außerdem die Stelle, an der Sicherheit entsteht. Es entscheidet, ob ein Agent wirklich eine Datei löschen oder eine Zahlung auslösen darf. Ein Modell kann man bitten, vorsichtig zu sein, aber garantieren lässt sich das nicht. Eine Sperre im Gerüst dagegen hält, weil sie normaler Programmcode ist.
Die Schleife aus Denken, Handeln und Beobachten
Im Kern arbeitet fast jedes Gerüst als Schleife. Es gibt dem Modell die Aufgabe und eine Liste erlaubter Werkzeuge, etwa eine Websuche oder einen Taschenrechner. Das Modell antwortet mit einem Vorschlag, welches Werkzeug es mit welchen Angaben benutzen möchte. Das Gerüst führt diesen Schritt aus und schickt das Ergebnis als neuen Text zurück. Dann beginnt der nächste Durchgang, bis die Aufgabe erledigt ist.
Dazu kommt die Verwaltung des Gedächtnisses. Ein Modell kann pro Anfrage nur eine begrenzte Textmenge lesen, das nennt man Kontextfenster. Bei einer Aufgabe mit fünfzig Schritten passt irgendwann nicht mehr alles hinein. Das Gerüst fasst deshalb ältere Schritte zusammen, legt Zwischenergebnisse in Dateien ab und holt nur das Nötige zurück.
Ein häufiger Irrtum ist, das Gerüst sei bloß ein hübscher Rahmen für Eingabeanweisungen. Tatsächlich enthält es die heikelsten Entscheidungen. Wie oft darf ein Agent einen fehlgeschlagenen Schritt wiederholen, bevor er abbricht? Ohne solche Abbruchregeln drehen Agenten sich stundenlang im Kreis und verursachen echte Kosten, weil jeder Modellaufruf Geld kostet.
Vom Programmier-Assistenten bis zum Buchungshelfer
Am bekanntesten sind Gerüste bei Programmierwerkzeugen. Wenn ein Assistent in einem Projekt selbstständig Dateien liest, eine Änderung schreibt und danach die Tests laufen lässt, steckt genau so eine Schleife dahinter. Ähnlich funktionieren Rechercheagenten, die für einen Bericht dutzende Webseiten aufrufen und die Ergebnisse zusammenführen.
In Firmen tauchen Gerüste zunehmend im Kundenservice und in der Verwaltung auf. Ein Agent liest eine Beschwerde, sucht die Bestellung in der Datenbank und erstellt einen Rückgabeschein. Der letzte Schritt, die Erstattung, ist dabei oft absichtlich gesperrt und braucht die Freigabe eines Menschen. Diese Grenze zieht das Gerüst, nicht das Modell.
In Nachrichten begegnet dir der Begriff vor allem in Benchmark-Meldungen, also Berichten über Leistungstests. Dort steht dann, ein Modell habe einen bestimmten Prozentsatz der Aufgaben gelöst. Solche Zahlen sind nur vergleichbar, wenn auch das Gerüst gleich ist. Wer das verschweigt, vergleicht in Wahrheit zwei verschiedene Systeme.