Dynamic Workers

In einem Rechenzentrum erledigen nicht Menschen die Arbeit, sondern Programme, die auf vielen Computern gleichzeitig laufen. Ein solches Programm, das eine einzelne Aufgabe abarbeitet, nennt man einen Worker, also einen Arbeiter. Klassisch laufen immer gleich viele davon, egal ob gerade viel oder wenig zu tun ist. Dynamic Workers funktionieren anders: Ihre Anzahl passt sich laufend an die tatsächliche Menge an Anfragen an. Kommen tausend Nutzer gleichzeitig, startet das System zusätzliche Arbeiter. Wird es ruhig, werden sie automatisch wieder abgeschaltet. Man kann sich das wie ein Café vorstellen, das bei Andrang binnen Sekunden zusätzliche Bedienungen einstellt und sie danach wieder gehen lässt.

Warum Leerlauf im Rechenzentrum teuer ist

Der Betrieb von KI-Diensten kostet vor allem deshalb viel Geld, weil die nötige Hardware teuer ist. Spezielle Rechenchips für KI, sogenannte GPUs, kosten in der Miete mehrere Euro pro Stunde und Stück. Diese Kosten fallen an, sobald der Chip reserviert ist. Ob er wirklich rechnet oder nur wartet, spielt für die Rechnung keine Rolle. Wer rund um die Uhr für den Spitzenbedarf einkauft, bezahlt nachts also fast nur Leerlauf.

Genau hier setzen Dynamic Workers an. Sie verwandeln eine feste Ausgabe in eine variable. Ein Anbieter zahlt dann ungefähr für das, was seine Nutzer tatsächlich abrufen. Bei Diensten mit stark schwankender Nutzung kann das die Rechnung erheblich senken. Typisch sind Tagesverläufe, bei denen abends zehnmal so viele Anfragen eingehen wie frühmorgens.

Der zweite Grund ist Verlässlichkeit. Ein starres System hat eine harte Obergrenze. Wird sie überschritten, warten Nutzer minutenlang oder bekommen eine Fehlermeldung. Ein mitwachsendes System federt solche Spitzen ab, etwa wenn ein Produkt in den Nachrichten auftaucht und der Andrang plötzlich explodiert.

Was beim Hoch- und Herunterfahren passiert

Im Hintergrund läuft ein Überwachungsprogramm, oft Scheduler oder Autoscaler genannt. Es beobachtet Kennzahlen wie die Länge der Warteschlange oder die Wartezeit pro Anfrage. Überschreitet ein Wert eine festgelegte Schwelle, startet es zusätzliche Worker. Sinkt die Last wieder, werden überzählige Worker beendet. Diese Regeln legen die Entwickler vorher fest, der Ablauf selbst läuft ohne Menschen.

Das Hochfahren ist allerdings nicht kostenlos. Ein neuer Worker muss zuerst gestartet werden, und bei KI-Anwendungen muss er das Modell in den Speicher des Chips laden. Bei großen Modellen sind das viele Gigabyte an Daten. Diese Verzögerung heißt Kaltstart und kann von Sekunden bis zu einigen Minuten dauern. Anbieter halten deshalb oft eine kleine Grundmenge an Workers dauerhaft warm.

Ein häufiger Irrtum ist, dynamische Skalierung sei immer die günstigste Lösung. Bei gleichmäßiger Grundlast sind fest gebuchte Rechner meist billiger, weil längerfristige Verträge Rabatte bringen. In der Praxis kombiniert man beides: eine feste Basis für den Normalbetrieb, dynamische Worker für die Spitzen.

Wo dir das Prinzip in Produkten und Bilanzen begegnet

Cloud-Anbieter wie Amazon, Microsoft und Google vermarkten das Prinzip unter Namen wie Autoscaling oder Serverless. Serverless heißt dabei nicht, dass keine Server beteiligt sind. Es heißt nur, dass der Kunde sich nicht selbst um deren Anzahl kümmert. Spezialisierte KI-Plattformen werben ausdrücklich mit Dynamic Workers für GPUs und rechnen sekundengenau ab.

Als Nutzer merkst du das Prinzip meist nur indirekt. Wenn ein Chatbot zur Hauptzeit spürbar langsamer antwortet, reicht die verfügbare Kapazität gerade nicht aus. Ein ungewöhnlich langes Warten auf die erste Antwort kann ein Kaltstart sein. Kostenlose Testzugänge laufen oft bewusst auf solchen langsam startenden Kapazitäten.

In Wirtschaftsmeldungen taucht das Thema unter dem Stichwort Auslastung auf. Analysten schauen darauf, wie gut ein KI-Anbieter seine teuren Chips ausnutzt. Eine hohe Auslastung bei stabilen Antwortzeiten gilt als Zeichen guter technischer Steuerung und wirkt sich direkt auf die Marge aus.