Prompt-Pipeline

Programme wie ChatGPT bekommen ihre Aufgabe als Text: Man tippt eine Anweisung ein, das Programm antwortet. Eine solche Anweisung nennt man Prompt. Bei schwierigen Aufgaben liefert ein einzelner Prompt aber oft ein mittelmäßiges Ergebnis. Deshalb schalten Entwickler mehrere Anweisungen hintereinander. Die Antwort des ersten Schritts wird automatisch in den zweiten Schritt eingebaut, dessen Antwort in den dritten, und so weiter. Diese festgelegte Kette aus Einzelschritten heißt Prompt-Pipeline.

Warum eine Kette besser trifft als eine Riesenfrage

Ein Sprachmodell arbeitet Anweisungen nicht wie eine Checkliste ab. Je mehr man in einen einzigen Prompt packt, desto eher fällt etwas unter den Tisch. Wer gleichzeitig recherchieren, zusammenfassen, übersetzen und formatieren lässt, bekommt meist alles halb. Zerlegt man dieselbe Aufgabe in vier Schritte, konzentriert sich das Modell pro Schritt auf eine Sache. Die Trefferquote steigt spürbar, ohne dass man ein besseres Modell braucht.

Ein zweiter Vorteil ist die Fehlersuche. Bei einem einzigen langen Prompt sieht man nur, dass das Endergebnis schlecht ist. Bei einer Pipeline kann man jede Zwischenantwort einzeln anschauen. Man erkennt also, ob schon die Zusammenfassung falsch war oder erst die Übersetzung. Genau diesen Schritt kann man dann gezielt umformulieren.

Dazu kommt ein wirtschaftliches Argument. Nicht jeder Teilschritt braucht das teuerste Modell. Einfache Aufgaben wie Sortieren oder Kürzen erledigt ein kleines, billiges Modell. Nur der anspruchsvolle Schritt geht an das große. In Firmen senkt das die laufenden Kosten deutlich, oft um mehr als die Hälfte.

Vom ersten Schritt zur fertigen Antwort

Eine Pipeline besteht aus Vorlagen mit Lücken, sogenannten Templates. In einer Lücke steht zum Beispiel der Text des Nutzers, in einer anderen die Antwort des vorherigen Schritts. Ein normales Programm füllt diese Lücken aus und schickt den fertigen Prompt an das Modell. Die Antwort wird eingesammelt und in die nächste Vorlage eingesetzt. Das Modell selbst merkt davon nichts, es beantwortet jedes Mal einfach den Text, den es bekommt.

Ein Beispiel für eine Bewerbungsmappe: Schritt eins zieht aus der Stellenanzeige die geforderten Fähigkeiten heraus. Schritt zwei vergleicht sie mit dem Lebenslauf und listet Übereinstimmungen auf. Schritt drei schreibt daraus ein Anschreiben. Schritt vier prüft den Text auf Länge und Ton. Jeder Schritt sieht nur, was er wirklich braucht.

Zwischen den Schritten stehen oft ganz gewöhnliche Programmteile. Sie prüfen, ob die Antwort das erwartete Format hat, etwa eine Liste mit genau fünf Punkten. Stimmt etwas nicht, wird der Schritt wiederholt oder ein Ersatzweg genommen. Diese Kontrollen sind der Unterschied zwischen einem Bastelprojekt und einem System, das im Betrieb zuverlässig läuft.

Pipelines hinter Chatbots und Firmensoftware

Fast jedes KI-Produkt, das mehr kann als plaudern, steckt voller Pipelines. Der Kundenservice-Chatbot eines Onlineshops erkennt zuerst das Anliegen, sucht dann in der Datenbank nach der Bestellung und formuliert erst danach die Antwort. Auch Programmierhilfen wie GitHub Copilot arbeiten in Etappen: verstehen, Code vorschlagen, Fehler prüfen.

In Firmennachrichten taucht der Begriff meist zusammen mit Werkzeugen wie LangChain oder LlamaIndex auf. Das sind Baukästen, mit denen sich solche Ketten zusammenklicken lassen, statt sie von Hand zu programmieren. Wenn ein Unternehmen ankündigt, seine KI-Anwendung sei „in Produktion“, steckt dahinter fast immer eine getestete Pipeline.

Ein verbreiteter Irrtum ist, Prompt-Pipelines seien dasselbe wie KI-Agenten. Der Unterschied liegt in der Freiheit. Eine Pipeline läuft immer denselben, vorher festgelegten Weg. Ein Agent entscheidet selbst, welchen Schritt er als Nächstes wählt. Pipelines sind dadurch berechenbarer und leichter zu prüfen, Agenten flexibler, aber auch schwerer zu kontrollieren.