Queue

Eine Queue ist eine Warteschlange für Aufgaben in einem Computersystem. Das Prinzip kennst du von der Kasse im Supermarkt: Wer zuerst kommt, wird zuerst bedient. Statt Kunden stehen hier Aufträge an — etwa „berechne diese Antwort“ oder „verschicke diese E-Mail“. Ein Programm legt die Aufträge hinten an, ein anderes nimmt sie vorne heraus und erledigt sie. Der englische Begriff hat sich durchgesetzt, gemeint ist schlicht eine Warteschlange. Fachleute sprechen auch vom FIFO-Prinzip, kurz für „first in, first out“, also „zuerst hinein, zuerst hinaus“.

Was passiert, wenn alle gleichzeitig kommen

Computer bekommen Anfragen selten gleichmäßig verteilt. Bei einem Fußballspiel klicken hunderttausend Menschen in derselben Minute auf denselben Livestream. Ohne Warteschlange müsste das System jede Anfrage sofort bedienen oder sie abweisen. Beides ist schlecht: Sofortige Bedienung überlastet die Rechner, Abweisung ärgert die Nutzer.

Die Queue entkoppelt das Ankommen von Aufgaben und das Erledigen von Aufgaben. Anfragen dürfen schneller hereinkommen, als sie bearbeitet werden. Die Warteschlange wird dann eben länger. Sobald der Ansturm nachlässt, arbeitet das System den Rückstau ab. Aus einem Totalausfall wird so eine bloße Verzögerung — und das ist ein riesiger Unterschied.

Bei KI-Diensten ist das besonders spürbar. Die Rechenchips, die ein Sprachmodell antreiben, sind teuer und knapp. Kein Anbieter kann so viele Chips vorhalten, dass sie den größten denkbaren Ansturm ohne Wartezeit schaffen. Also stellt man Anfragen in eine Queue. Wenn ein Chatbot bei dir langsam antwortet, hängt deine Anfrage oft schlicht in einer Warteschlange.

Anstellen, abholen, bestätigen

Technisch besteht eine Queue aus drei Rollen. Der Producer erzeugt Aufgaben und legt sie ab, zum Beispiel die Webseite, auf der du auf „Senden“ klickst. Die Queue selbst speichert die Aufgaben in der Reihenfolge ihres Eingangs. Der Consumer holt sich eine Aufgabe, erledigt sie und meldet zurück, dass sie fertig ist.

Diese Rückmeldung ist wichtiger, als sie klingt. Stürzt ein Consumer mitten in der Arbeit ab, bleibt die Bestätigung aus. Die Aufgabe gilt dann als unerledigt und wandert zurück in die Schlange. Ein anderer Consumer nimmt sie sich. So geht selbst bei einem Serverausfall keine Bestellung verloren.

Für mehr Tempo lässt man mehrere Consumer parallel an derselben Queue arbeiten — wie zusätzliche Kassen im Supermarkt. Bei sehr langen Schlangen fügen Betreiber automatisch weitere Rechner hinzu. Manche Systeme kennen zusätzlich Prioritäten: Ein zahlender Kunde darf sich vordrängeln, ein unwichtiger Hintergrundjob wartet länger. Streng genommen ist das dann keine reine FIFO-Queue mehr, sondern eine Prioritätswarteschlange.

Von der Ticket-Nummer bis zur GPU-Cloud

Im Alltag begegnet dir das Prinzip ständig, meist unbemerkt. Beim Onlineshop erscheint sofort „Bestellung eingegangen“, obwohl Zahlung und Lager erst Sekunden später bearbeitet werden. Bei einem Ticketverkauf zeigt dir manche Seite sogar direkt deine Position in der Warteschlange an. Auch der Drucker in der Schule führt eine Queue: Alle Aufträge landen dort und werden nacheinander gedruckt.

In Firmen laufen ganze Systeme über spezielle Queue-Software mit Namen wie Kafka oder RabbitMQ. Sie verbindet Programme, die sonst nichts miteinander zu tun haben. Ein Dienst schreibt Ereignisse hinein, andere lesen sie in ihrem eigenen Tempo. Fällt ein Dienst für zehn Minuten aus, sammelt sich die Arbeit an, statt verloren zu gehen.

In Nachrichten über KI taucht der Begriff meist beim Thema Rechenkapazität auf. Anbieter melden dann lange Queues für Trainingsläufe, weil Grafikchips ausgebucht sind. Ein häufiger Irrtum: Eine Warteschlange macht ein System nicht schneller. Sie verhindert nur, dass Arbeit verloren geht, und verteilt Lastspitzen über die Zeit. Wächst eine Queue dauerhaft, reicht die Rechenleistung schlicht nicht aus.