Agent-Runtime
Eine Agent-Runtime ist die Software, die ein KI-Programm während seiner Arbeit steuert: Sie ruft das Sprachmodell auf, führt dessen Werkzeugaufrufe aus und merkt sich den Zwischenstand. Sie ist damit die Umgebung, in der aus einem Textmodell ein handelndes Programm wird.
Ein modernes KI-Programm kann Aufgaben in mehreren Schritten lösen: eine Website durchsuchen, ein Ergebnis prüfen, eine Mail schreiben. Es besteht dabei aus zwei Teilen. Der eine Teil ist das KI-Modell, das nur Text erzeugt und selbst gar nichts tun kann. Der andere Teil ist ein Programm, das diesen Text liest, die darin genannten Aktionen wirklich ausführt und das Ergebnis zurückmeldet. Dieses zweite Programm nennt man Agent-Runtime, auf Deutsch etwa Agentenlaufzeit. Sie ist die Umgebung, in der ein solches mehrschrittiges KI-Programm läuft, Schritt für Schritt.
Warum ein Sprachmodell allein nichts erledigt
Ein Sprachmodell sagt immer nur das nächste Stück Text voraus. Es kann also schreiben: „Ich suche jetzt den Flugpreis.“ Suchen kann es nicht. Es hat keinen Zugriff auf das Internet, keine Dateien und kein Gedächtnis über den einzelnen Aufruf hinaus. Alles, was ein Agent scheinbar selbst tut, führt in Wirklichkeit die Runtime aus.
Daraus folgt: Die Qualität eines Agenten hängt nicht nur am Modell. Zwei Firmen können dasselbe Modell verwenden und trotzdem sehr unterschiedliche Ergebnisse liefern. Der Unterschied liegt oft in der Runtime. Sie entscheidet, welche Werkzeuge es gibt, wie viele Versuche erlaubt sind und was bei einem Fehler passiert.
Wichtig ist auch der Sicherheitsaspekt. Ein Agent, der Code ausführen oder Geld überweisen darf, ist ein Risiko. Die Runtime ist die Stelle, an der Grenzen gesetzt werden. Sie kann bestimmte Befehle blockieren oder vor kritischen Schritten eine Bestätigung durch einen Menschen verlangen.
Der Kreislauf aus Denken, Handeln und Beobachten
Im Kern läuft eine Schleife. Die Runtime schickt die Aufgabe und den bisherigen Verlauf an das Modell. Das Modell antwortet mit einem Gedanken und meist mit einem Werkzeugaufruf, etwa „suche: Zugverbindung Berlin Hamburg“. Die Runtime führt diese Suche aus und hängt das Ergebnis an den Verlauf an. Dann geht dieselbe Frage erneut ans Modell. Das wiederholt sich, bis das Modell sagt, es sei fertig.
Damit das nicht endlos läuft, setzt die Runtime harte Grenzen. Typisch sind eine maximale Zahl von Schritten, ein Zeitlimit und ein Kostenlimit. Ohne solche Bremsen können Agenten sich im Kreis drehen und dabei laufend Geld verbrauchen, denn jeder Modellaufruf kostet.
Ein zweites Problem ist das Gedächtnis. Ein Modell kann nur eine begrenzte Menge Text auf einmal verarbeiten. Nach zwanzig Schritten ist der Verlauf zu lang. Die Runtime muss ihn deshalb kürzen, zusammenfassen oder wichtige Teile in eine Datenbank auslegen und später gezielt zurückholen. Man kann sie sich als Schreibtisch vorstellen: Sie legt dem Modell genau die Unterlagen hin, die es für den nächsten Schritt braucht.
Agent-Runtimes in Produkten und Schlagzeilen
Jedes Produkt, das mehr tut als antworten, hat eine Runtime im Hintergrund. Ein Programmierassistent, der Dateien in einem Projekt ändert und Tests laufen lässt, ist ein Beispiel. Auch die Recherchefunktionen großer Chatbots gehören dazu: Sie rufen dutzende Webseiten ab, bevor sie einen Bericht schreiben.
In Nachrichten aus der Branche taucht der Begriff meist zusammen mit Entwicklerwerkzeugen auf. Firmen wie OpenAI, Google, Anthropen-Konkurrenten und viele Start-ups verkaufen fertige Runtimes, damit Unternehmen sie nicht selbst bauen müssen. Aus Anlegersicht ist das interessant, weil hier eine eigene Softwareschicht entsteht, an der man verdienen kann, unabhängig davon, welches Modell gerade das beste ist.
Ein häufiger Irrtum ist, Agent-Runtime und Agent gleichzusetzen. Der Agent ist die konkrete Anwendung mit ihrer Aufgabe, ihren Anweisungen und ihren Werkzeugen. Die Runtime ist der austauschbare Motor darunter. Wer das trennt, versteht besser, warum Anbieter beim Modell wechseln können, ohne ihr Produkt neu zu schreiben.