Agent-Framework
Ein Agent-Framework ist eine fertige Softwaresammlung, mit der Entwickler Programme bauen, die eine Aufgabe selbstständig in Teilschritte zerlegen und diese Schritte nacheinander abarbeiten. Es liefert die immer gleichen Bausteine dafür: Gedächtnis, Zugriff auf Werkzeuge wie Suchmaschinen und eine Schleife, die den Ablauf kontrolliert.
Programme wie ChatGPT antworten normalerweise genau einmal: Frage rein, Antwort raus. Man kann sie aber auch in einer Schleife laufen lassen, damit sie eine größere Aufgabe in Teilschritte zerlegen und diese Schritte einzeln abarbeiten. Ein solches selbstständig arbeitendes Programm nennt man einen Agenten. Damit das funktioniert, braucht der Agent Zusatzteile: eine Notiz darüber, was er schon getan hat, und die Erlaubnis, echte Werkzeuge zu benutzen, etwa eine Suchmaschine oder einen Taschenrechner. Ein Agent-Framework ist eine fertige Sammlung genau dieser Zusatzteile. Entwickler müssen sie dann nicht jedes Mal neu programmieren. Bekannte Beispiele sind LangChain, LlamaIndex, CrewAI und Microsofts AutoGen.
Warum niemand die Schleife selbst schreiben will
Die Grundidee eines Agenten klingt einfach, die Umsetzung ist es nicht. Zwischen dem Sprachmodell und der Außenwelt liegen viele mühsame Details. Der Text, den das Modell ausgibt, muss zum Beispiel daraufhin geprüft werden, ob er wirklich einen Werkzeugaufruf enthält. Wenn das Modell Unsinn ausgibt, muss das Programm den Schritt wiederholen statt abzustürzen. Solche Fälle machen den Großteil des Aufwands aus.
Ein Framework nimmt diese Arbeit ab. Es liefert erprobten Code für die immer gleichen Probleme: Wiederholungsversuche, Zeitlimits, Protokollierung jedes Schritts. Ein Entwickler beschreibt nur noch, welche Werkzeuge der Agent haben darf und was sein Ziel ist. Aus mehreren Wochen Programmierarbeit werden so oft wenige Tage.
Wirtschaftlich ist das der Grund, warum Agent-Frameworks in Nachrichten auftauchen. Wer das Framework stellt, sitzt zwischen dem Unternehmen und dem Anbieter des Sprachmodells. Diese Position ist wertvoll, weil sich darüber später Geld verdienen lässt. Deshalb bauen Google, Microsoft, OpenAI und viele Start-ups eigene Frameworks.
Der Kreislauf aus Denken, Handeln und Beobachten
Im Kern läuft ein Agent-Framework immer dieselbe Schleife. Zuerst schickt es die Aufgabe an das Sprachmodell und fragt nach dem nächsten Schritt. Das Modell antwortet mit einem Vorschlag, etwa: durchsuche das Internet nach den Quartalszahlen von SAP. Das Framework führt diese Suche tatsächlich aus und hängt das Ergebnis an den Gesprächsverlauf an. Dann beginnt die Runde von vorn, bis das Modell meldet, es sei fertig.
Zwei Bausteine sind dabei besonders wichtig. Der eine ist das Werkzeugverzeichnis: eine Liste von Funktionen mit Beschreibung, die das Modell aufrufen darf. Der andere ist das Gedächtnis. Es speichert alle bisherigen Schritte, denn das Sprachmodell selbst erinnert sich an nichts. Ohne dieses Gedächtnis würde der Agent im Kreis laufen und dieselbe Suche endlos wiederholen.
Viele Frameworks lassen außerdem mehrere Agenten zusammenarbeiten. Einer plant, einer recherchiert, einer prüft das Ergebnis. Man sollte das nicht mit Mixture of Experts verwechseln, wo ein einzelnes Modell intern verschiedene Bausteine aktiviert. Bei mehreren Agenten sind es getrennte Programme, die sich über Text verständigen. Wichtig ist auch: das Framework macht das Modell nicht klüger. Es organisiert nur, wie oft und mit welchen Informationen es befragt wird.
Vom Support-Chat bis zum Programmierassistenten
Am direktesten begegnet man Agenten in Programmierwerkzeugen. Wenn ein Assistent wie GitHub Copilot selbstständig Dateien öffnet, Änderungen vornimmt und danach die Tests laufen lässt, steckt dahinter genau diese Schleife. Ähnlich arbeiten Rechercheautomatiken, die für einen Bericht zwanzig Webseiten lesen und die Ergebnisse zusammenfassen.
In Unternehmen sind Kundenanfragen der häufigste Einsatzort. Ein Agent liest die E-Mail, sucht die Bestellnummer im Warenwirtschaftssystem und legt bei Bedarf eine Rückerstattung an. Der Nutzer sieht davon nur eine normale Antwortmail. Ob dahinter ein Framework arbeitet, merkt man erst, wenn etwas schiefgeht.
Genau das ist der ehrliche Teil der Geschichte. Agenten machen bei jedem Schritt Fehler, und über zehn Schritte summieren sich diese Fehler auf. Viele Pilotprojekte laufen deshalb nur mit einem Menschen, der heikle Aktionen freigibt. Wer über Agent-Frameworks in den Nachrichten liest, sollte also weniger auf die Demonstration achten und mehr darauf, wie zuverlässig das Ganze im Alltag läuft.