Loop Engineering

Ein Chatprogramm mit künstlicher Intelligenz kann eine Frage in einem Zug beantworten. Für schwierige Aufgaben reicht das oft nicht. Dann arbeitet das Programm in Runden: Es macht einen Schritt, schaut sich das Ergebnis an und entscheidet, was als Nächstes passiert. Diese Wiederholung nennt man eine Schleife. Loop Engineering ist die Arbeit daran, wie genau diese Schleife aufgebaut ist. Es geht also nicht darum, das Sprachprogramm selbst zu verbessern, sondern die Abläufe drumherum.

Warum sich der Fortschritt vom Modell zur Schleife verschoben hat

Lange galt: Ein besseres KI-Modell liefert bessere Ergebnisse. Das stimmt weiterhin, aber der Zuwachs allein durch größere Modelle ist teuer geworden. Gleichzeitig zeigte sich etwas anderes. Dasselbe Modell liefert sehr unterschiedliche Qualität, je nachdem wie man es arbeiten lässt. Wer es einmal antworten lässt, bekommt ein anderes Resultat als wer es dreimal prüfen und korrigieren lässt.

Deshalb steckt in vielen KI-Produkten inzwischen mehr Arbeit in der Schleife als im Modell. Firmen kaufen das Modell ein und bauen den Ablauf selbst. Genau dieser Ablauf ist ihr eigentliches Produkt. Ein gutes Beispiel sind Programmierassistenten: Sie schreiben Code, führen ihn aus, lesen die Fehlermeldung und bessern nach. Der Kern dieses Werkzeugs ist nicht die Textfähigkeit, sondern der Kreislauf aus Versuch und Rückmeldung.

Wichtig ist auch die Kostenseite. Jeder Durchgang der Schleife kostet Rechenzeit und damit Geld. Eine Schleife, die zwanzigmal läuft, ist rund zwanzigmal so teuer wie eine einzelne Antwort. Loop Engineering entscheidet also mit darüber, ob ein Dienst wirtschaftlich betrieben werden kann.

Die Bausteine einer Schleife: Schritt, Rückmeldung, Abbruch

Jede Runde besteht aus drei Teilen. Zuerst entscheidet das Modell, was es tun will, etwa eine Suche starten oder eine Datei öffnen. Dann wird diese Handlung tatsächlich ausgeführt, meist durch ein angeschlossenes Programm. Zuletzt kommt das Ergebnis zurück zum Modell, das daraufhin die nächste Runde plant. Diesen Rückfluss nennt man Rückmeldung oder Feedback.

Die schwierigste Frage ist der Abbruch. Eine Schleife ohne klare Stoppregel kann endlos weiterlaufen. Typische Regeln sind eine Höchstzahl an Runden, ein Zeitlimit oder ein Prüfschritt, der meldet, dass die Aufgabe erledigt ist. Manche Systeme lassen eine zweite KI-Instanz beurteilen, ob das Ergebnis genügt. Zu frühes Abbrechen liefert halbfertige Arbeit, zu spätes verbrennt Geld.

Ein zweites Kernproblem ist das Gedächtnis. Das Modell kann nur eine begrenzte Menge Text gleichzeitig überblicken. Nach vielen Runden passt die gesamte Vorgeschichte nicht mehr hinein. Also muss man auswählen, zusammenfassen oder Zwischenergebnisse auslagern. Ein häufiger Irrtum ist, dass mehr Runden automatisch bessere Ergebnisse bringen. Oft passiert das Gegenteil: Das System verliert den Überblick und wiederholt denselben Fehler immer wieder.

Loop Engineering in Produkten und Stellenanzeigen

Am deutlichsten sichtbar ist die Schleife bei sogenannten KI-Agenten. Das sind Systeme, die eine Aufgabe selbstständig über mehrere Schritte bearbeiten. Wenn ein Werkzeug meldet, es habe die Aufgabe in achtzehn Schritten gelöst, dann sieht man die Schleife bei der Arbeit. Auch Rechercheassistenten, die selbst mehrere Webseiten öffnen und vergleichen, funktionieren so.

In Nachrichten taucht der Begriff meist im Zusammenhang mit Kosten und Zuverlässigkeit auf. Berichte über Agenten, die in Endlosschleifen hängen bleiben oder überraschend hohe Rechnungen erzeugen, beschreiben Fehler im Loop Engineering. Auch in Stellenausschreibungen findet man das Thema, oft unter Bezeichnungen wie AI Engineer oder Agent Engineer.

Abzugrenzen ist der Begriff vom Prompt Engineering, dem geschickten Formulieren einzelner Anweisungen. Prompt Engineering betrifft eine Runde, Loop Engineering den gesamten Ablauf über viele Runden. In der Praxis gehört beides zusammen, denn jede Runde braucht ihre eigene Anweisung.