Reaktionszeit

Die Reaktionszeit ist die Spanne zwischen einer Eingabe und der Antwort des Systems. Du drückst Enter, und irgendwann erscheint der erste Buchstabe auf dem Bildschirm. Genau diese Wartezeit ist gemeint. Gemessen wird sie meist in Millisekunden, also Tausendstelsekunden. Bei einem Sprachassistenten liegt sie im besten Fall unter einer halben Sekunde. Bei einem großen Textmodell, das eine komplizierte Frage beantwortet, kann sie mehrere Sekunden betragen. Wichtig ist: Reaktionszeit sagt nichts darüber aus, ob die Antwort auch richtig ist. Sie misst nur das Tempo.

Warum eine halbe Sekunde über Erfolg entscheidet

Menschen bemerken Verzögerungen erstaunlich genau. Etwa ab 100 Millisekunden wirkt eine Reaktion nicht mehr sofort. Ab etwa einer Sekunde beginnt man, sich zu langweilen oder abgelenkt zu werden. Bei einem gesprochenen Dialog ist die Grenze noch strenger, weil wir aus echten Gesprächen sehr kurze Pausen gewohnt sind. Ein KI-Assistent, der zwei Sekunden schweigt, wirkt deshalb schnell schwerfällig.

Für Unternehmen ist das kein Schönheitsproblem, sondern ein Geschäftsrisiko. Große Online-Händler haben gemessen, dass schon eine Verzögerung von 100 Millisekunden pro Seitenaufruf den Umsatz messbar drückt. Bei KI-Produkten gilt das genauso: Nutzer brechen ab, wenn die Antwort zu lange auf sich warten lässt. In manchen Bereichen ist Verzögerung sogar gefährlich. Ein selbstfahrendes Auto muss ein Hindernis erkennen und bremsen, bevor es zu spät ist.

Man sollte Reaktionszeit nicht mit Durchsatz verwechseln. Durchsatz bedeutet, wie viele Anfragen ein System pro Sekunde insgesamt schafft. Ein Rechenzentrum kann einen hohen Durchsatz haben und trotzdem für jeden einzelnen Nutzer langsam sein. Beides zu optimieren, sind zwei verschiedene Aufgaben, die sich manchmal sogar widersprechen.

Woraus sich die Wartezeit zusammensetzt

Die Reaktionszeit ist immer eine Summe aus mehreren Teilstücken. Zuerst reist deine Anfrage durch das Netz zu einem entfernten Rechenzentrum. Allein dieser Weg kostet Zeit, denn selbst Lichtsignale in Glasfaserkabeln brauchen für tausend Kilometer einige Millisekunden. Dann wartet die Anfrage möglicherweise in einer Warteschlange, weil gerade viele andere Nutzer aktiv sind. Erst danach beginnt die eigentliche Rechenarbeit.

Bei Sprachmodellen unterscheidet man zwei Werte. Der erste ist die Zeit bis zum ersten Zeichen der Antwort. Der zweite ist das Tempo, mit dem die restlichen Wörter nachkommen. Deshalb schreiben Chatbots ihre Antwort Stück für Stück auf den Bildschirm, statt zu warten, bis alles fertig ist. Das verkürzt die gefühlte Wartezeit erheblich, obwohl die Gesamtdauer gleich bleibt.

Verkürzen lässt sich die Reaktionszeit auf mehreren Wegen. Man stellt Server näher an die Nutzer, damit der Netzweg kürzer wird. Man verwendet kleinere Modelle für einfache Anfragen und große nur für schwierige. Und man speichert häufige Antworten zwischen, statt sie jedes Mal neu zu berechnen. Ein typischer Irrtum ist, dass ein stärkerer Prozessor immer hilft. Wenn die Verzögerung vor allem im Netzweg steckt, bringt mehr Rechenleistung fast nichts.

Wo dir das Thema in Nachrichten und Produkten auffällt

In Werbetexten von KI-Firmen steht oft das englische Wort Latency, wenn Reaktionszeit gemeint ist. Sprachmodi von Assistenten werden mit Angaben wie 300 Millisekunden beworben, weil das ungefähr einer natürlichen Gesprächspause entspricht. Auch beim Mobilfunkstandard 5G war die niedrige Reaktionszeit ein zentrales Verkaufsargument, nicht nur die hohe Datenrate.

Im Alltag merkst du den Unterschied besonders beim Online-Spielen. Dort heißt die Reaktionszeit meist Ping, und ein hoher Ping bedeutet, dass dein Schuss verspätet ankommt. Beim Videochat führt eine hohe Reaktionszeit dazu, dass sich die Gesprächspartner ständig gegenseitig ins Wort fallen. Und wenn ein Chatbot minutenlang nachdenkt, steckt oft ein sogenanntes Reasoning-Modell dahinter, das absichtlich länger rechnet, um bessere Antworten zu geben. Hier ist die lange Reaktionszeit kein Fehler, sondern ein bewusster Kompromiss.