Multi-Modell-Orchestrierung
Multi-Modell-Orchestrierung bedeutet, dass ein Programm nicht ein einziges KI-System benutzt, sondern mehrere und für jede Aufgabe das passende auswählt. Eine Steuerungsschicht verteilt die Anfragen, sammelt die Ergebnisse ein und liefert eine Antwort zurück.
Programme, die Texte schreiben oder Bilder erzeugen, stützen sich auf trainierte Rechenmodelle. Solche Modelle sind unterschiedlich gebaut: manche sind sehr groß, langsam und teuer, andere klein, schnell und günstig. Manche können nur Text, andere auch Bilder oder Sprache verarbeiten. Multi-Modell-Orchestrierung heißt, mehrere dieser Modelle in einem einzigen Produkt zu kombinieren. Eine Steuerungsschicht entscheidet bei jeder Anfrage, welches Modell sie bearbeiten soll. Für den Nutzer sieht es trotzdem so aus, als spräche er mit einem einzigen System.
Warum kein Anbieter mehr auf ein einziges Modell setzt
Der wichtigste Grund ist Geld. Eine Anfrage an ein sehr großes Modell kann leicht das Zwanzigfache einer Anfrage an ein kleines kosten. Die meisten Anfragen im Alltag sind aber simpel: eine Übersetzung, eine kurze Zusammenfassung, eine Formatänderung. Für so etwas ein Spitzenmodell zu verwenden, ist reine Verschwendung. Wenn ein Dienst nur die schweren Fälle an das teure Modell weiterreicht, sinken die Betriebskosten oft deutlich.
Der zweite Grund ist Zuverlässigkeit. Wer alles auf ein einziges Modell eines einzigen Anbieters stützt, steht still, sobald dessen Server ausfallen. Auch Preiserhöhungen oder abgeschaltete Modellversionen treffen dann sofort das eigene Produkt. Fachleute nennen diese Abhängigkeit Vendor Lock-in. Eine Orchestrierungsschicht kann im Störungsfall einfach auf ein anderes Modell umschalten.
Drittens ist kein Modell überall das beste. Eines schreibt besonders flüssige Texte, ein anderes rechnet zuverlässiger, ein drittes kann Bilder auswerten. Wer sie kombiniert, bekommt ein Produkt, das insgesamt stärker ist als jedes einzelne Modell für sich.
Der Router und was er entscheidet
Das Herzstück ist der Router, also die Weiche. Er bekommt die Anfrage zuerst und schätzt ein, wie schwierig sie ist. Dafür gibt es einfache Regeln, etwa nach Länge oder Stichwörtern im Text. Häufiger übernimmt ein kleines, eigens dafür trainiertes Modell diese Einschätzung. Es antwortet nicht selbst, sondern gibt nur die Empfehlung ab, wer antworten soll.
Neben dem reinen Weiterleiten gibt es weitere Muster. Beim Kaskadieren beantwortet erst das billige Modell die Frage. Ein Prüfschritt bewertet das Ergebnis, und nur bei Zweifeln geht die Anfrage an das teure Modell. Beim parallelen Abfragen antworten mehrere Modelle gleichzeitig, und ein Auswahlschritt nimmt die beste Antwort. Das kostet mehr, erhöht aber die Trefferquote.
Ein Vergleich hilft: Man kann sich die Orchestrierung wie die Anmeldung in einer Klinik vorstellen. Dort schaut zuerst jemand kurz auf das Problem und schickt den Patienten dann zur Hausärztin oder in die Spezialabteilung. Wichtig ist der Unterschied zu Mixture of Experts. Dort entscheidet ein Router innerhalb eines einzigen Modells zwischen dessen Bausteinen. Bei der Orchestrierung liegt die Weiche außerhalb und wählt zwischen kompletten, unabhängigen Modellen, oft von verschiedenen Firmen.
Orchestrierung in Chatbots, Suchmaschinen und Firmensoftware
Bekannte Chat-Assistenten arbeiten längst so. Wenn ein Assistent für eine Frage sichtbar länger nachdenkt oder ein Hinweis wie ein Wechsel in einen Denkmodus auftaucht, steckt oft eine Umschaltung dahinter. Auch Suchmaschinen mit KI-Zusammenfassung verwenden für die kurze Antwort oben ein anderes Modell als für lange Recherchen.
In Unternehmen ist die Orchestrierung ein eigener Softwaremarkt. Anbieter verkaufen Zwischenschichten, oft Gateway genannt, an die eine Firma alle KI-Anfragen schickt. Diese Schicht misst Kosten, protokolliert Anfragen und leitet sensible Daten nur an Modelle weiter, die auf europäischen Servern laufen. In Nachrichten erscheint das Thema meist in Sätzen über gesenkte Inferenzkosten, also die Kosten pro einzelner Antwort.
Ein verbreiteter Irrtum ist, dass mehr Modelle automatisch bessere Antworten liefern. Jede Weiche kostet Zeit und kann falsch entscheiden. Schickt der Router eine schwierige Frage an das kleine Modell, wird die Antwort schlechter als vorher. Gute Orchestrierung wird deshalb ständig gemessen und nachjustiert.
