Orchestrierung

Moderne Software besteht selten aus einem einzigen Programm. Meist arbeiten viele kleine Programme zusammen, die jeweils nur eine Aufgabe erledigen. Eines durchsucht eine Datenbank, ein anderes prüft eine Kundennummer, ein drittes schreibt einen Text. Damit daraus ein sinnvolles Ergebnis entsteht, muss jemand die Reihenfolge festlegen und die Zwischenergebnisse weiterreichen. Genau diese Steuerung nennt man Orchestrierung. Das Bild dahinter ist ein Dirigent: Er spielt selbst kein Instrument, aber ohne ihn spielen die Musiker durcheinander.

Der Dirigent als eigenes Produkt

Früher war diese Steuerung ein Nebenprodukt, irgendwo im Programmcode versteckt. Heute ist sie oft das eigentliche Herzstück eines Systems. Der Grund ist die Zahl der Beteiligten: Ein einzelner Dienst im Internet kann aus Dutzenden Einzelteilen bestehen, die auf verschiedenen Rechnern laufen. Ohne klare Steuerung wird so etwas schnell unwartbar.

Bei KI-Anwendungen kommt ein Kostenargument hinzu. Große Sprachmodelle, also Programme, die Text erzeugen, kosten pro Anfrage Geld. Eine gute Steuerung schickt einfache Fragen an ein kleines, billiges Modell und nur schwierige an ein großes. Bei Millionen Anfragen pro Tag entscheidet das über die Rentabilität eines Produkts. Deshalb tauchen Firmen, die reine Orchestrierungssoftware verkaufen, inzwischen in Finanznachrichten auf.

Ein zweiter Punkt ist Verlässlichkeit. Einzelne Dienste fallen aus, Netzverbindungen brechen ab, Antworten kommen zu spät. Die Steuerungsschicht entscheidet dann, ob sie es erneut versucht, wartet oder eine Notlösung liefert. Wie stabil ein System wirkt, hängt oft weniger an den Einzelteilen als an dieser Ebene.

Vom Ablaufplan zum selbst entscheidenden Steuerer

Im einfachsten Fall ist Orchestrierung ein festgelegter Ablaufplan. Entwickler schreiben auf: erst Schritt A, dann B, bei einem Fehler in B stattdessen C. Ein Programm, der Orchestrator, arbeitet diesen Plan ab. Es ruft die einzelnen Dienste auf, sammelt deren Antworten und übergibt sie an den nächsten Schritt. Es merkt sich außerdem, wo im Ablauf man gerade steht, damit nach einer Störung nicht alles von vorn beginnen muss.

Bei KI-Systemen ist der Ablauf häufig nicht vorher bekannt. Eine typische Kette sieht so aus: Erst wird die Frage des Nutzers geprüft, dann werden passende Dokumente aus einem Firmenarchiv gesucht, dann formuliert ein Sprachmodell daraus eine Antwort, und zuletzt kontrolliert eine Prüfregel, ob die Antwort zulässig ist. Jeder dieser Schritte ist ein eigener Dienst. Die Orchestrierung verbindet sie und protokolliert, was passiert ist.

Noch einen Schritt weiter gehen Systeme, bei denen ein Sprachmodell selbst über die Reihenfolge entscheidet. Man nennt sie Agenten. Sie wählen aus einer Liste von Werkzeugen, etwa einer Suchmaschine oder einem Taschenrechner, und rufen sie nacheinander auf. Die Orchestrierung ist hier nicht mehr der Plan selbst, sondern der Rahmen: Sie stellt Werkzeuge bereit, begrenzt die Zahl der Versuche und bricht ab, wenn sich das Modell im Kreis dreht. Ein häufiger Irrtum ist, Orchestrierung mit Automatisierung gleichzusetzen. Automatisierung heißt, dass ein einzelner Schritt ohne Mensch läuft. Orchestrierung heißt, dass viele solche Schritte sinnvoll ineinandergreifen.

Wo die Steuerungsschicht sichtbar wird

Am bekanntesten ist der Begriff aus dem Betrieb von Rechenzentren. Die Software Kubernetes orchestriert Container, also abgeschlossene Programmpakete, und verteilt sie automatisch auf freie Rechner. Fällt ein Rechner aus, startet sie die betroffenen Pakete woanders neu. Wenn in Quartalszahlen von Cloud-Anbietern von Orchestrierung die Rede ist, ist meist diese Ebene gemeint.

Im Alltag begegnet man dem Prinzip, ohne es zu sehen. Eine Sprachassistentin auf dem Handy erkennt zuerst die Wörter, sucht dann die Antwort, prüft Kalender oder Wetterdienst und spricht das Ergebnis vor. Auch eine Kfz-Versicherung, die einen Schaden halb automatisch bearbeitet, hängt an so einer Kette. Sichtbar wird die Steuerung meist nur im Fehlerfall, wenn eine Antwort ungewöhnlich lange dauert oder mittendrin abbricht.

In Produktnamen taucht das Wort oft als Orchestrierungsschicht oder Orchestration Layer auf. Unternehmen verkaufen damit das Versprechen, nicht an ein einzelnes KI-Modell gebunden zu sein. Wer die Steuerungsschicht kontrolliert, kann das Modell darunter austauschen, sobald ein günstigeres oder besseres erscheint. Genau deshalb gilt diese Ebene unter Investoren derzeit als strategisch wertvoll.