p75-Latenz

Wenn du eine Suchanfrage abschickst, vergeht Zeit, bis die Antwort erscheint. Diese Wartezeit nennt man Latenz. Sie ist nie bei jeder Anfrage gleich: manchmal kommt die Antwort in 200 Millisekunden, manchmal dauert sie zwei Sekunden. Um diese vielen Einzelwerte zu einer Zahl zusammenzufassen, sortiert man sie der Größe nach. Die p75-Latenz ist dann der Wert, unter dem 75 Prozent aller Anfragen liegen. Anders gesagt: drei von vier Anfragen sind mindestens so schnell, ein Viertel ist langsamer.

Warum der Durchschnitt hier täuscht

Der naheliegende Weg wäre, einfach den Mittelwert aller Wartezeiten zu bilden. Genau das führt aber oft in die Irre. Latenzen sind ungleich verteilt: die meisten Anfragen sind schnell, einige wenige brauchen extrem lange. Ein einzelner Ausreißer mit 30 Sekunden kann den Mittelwert stark nach oben ziehen, obwohl fast alle Nutzer eine gute Erfahrung hatten.

Umgekehrt kann ein guter Mittelwert ein echtes Problem verdecken. Angenommen, der Durchschnitt liegt bei 300 Millisekunden. Das klingt gut. Wenn aber jede fünfte Anfrage vier Sekunden dauert, ärgert sich ein großer Teil der Nutzer trotzdem. Perzentile machen solche Fälle sichtbar, weil sie nach der Verteilung fragen und nicht nach dem Schnitt.

p75 ist dabei ein bewusst gewählter Kompromiss. Der Wert beschreibt die Erfahrung der klaren Mehrheit, reagiert aber nicht sofort auf jeden einzelnen Aussetzer. Deshalb nutzen Firmen p75 gern als Ziel für den Normalbetrieb. Für die schlimmsten Fälle schaut man zusätzlich auf p95 oder p99, also auf das langsamste Zwanzigstel bzw. Hundertstel.

So kommt die Zahl zustande

Ein Server schreibt für jede Anfrage mit, wie lange sie gedauert hat. Über ein Zeitfenster, etwa fünf Minuten, sammeln sich daraus tausende Messwerte. Diese Werte werden sortiert, und man liest den Wert an der Position von 75 Prozent ab. Bei 1000 sortierten Anfragen ist es also die 750. — ihr Wert ist die p75-Latenz für dieses Fenster.

In der Praxis speichert niemand alle Einzelwerte dauerhaft, dafür fallen zu viele an. Stattdessen führen Messsysteme sogenannte Histogramme: Sie zählen nur, wie viele Anfragen in Zeitspannen wie 0–100 ms, 100–200 ms und so weiter fielen. Aus diesen Kästchen wird das Perzentil geschätzt. Die Zahl ist deshalb leicht ungenau, für die Praxis aber gut genug.

Ein häufiger Irrtum: Perzentile lassen sich nicht einfach zusammenrechnen. Der Mittelwert aus dem p75 von zehn Servern ist nicht das p75 des gesamten Systems. Wer das Gesamtbild will, muss die Rohdaten oder die Histogramme zusammenlegen und das Perzentil neu bestimmen.

p75 in Verträgen, Dashboards und KI-Diensten

Wer eine Software als Dienst einkauft, findet Perzentile oft im Vertrag. Dort steht dann etwa, dass die p75-Latenz unter 500 Millisekunden bleiben muss. Solche Zusagen heißen Service Level Agreements. Ein Mittelwert wäre für den Kunden ein schwächeres Versprechen, weil er Ausreißer verstecken kann.

Auch Google bewertet Webseiten mit Perzentilen, unter anderem bei den sogenannten Core Web Vitals. Dabei zählt nicht, wie schnell die Seite auf dem Rechner des Entwicklers lädt, sondern wie schnell sie bei echten Nutzern mit schwachem Handy und schlechtem Netz ist. Ein besseres p75 kann so direkt die Platzierung in der Suche beeinflussen.

Bei KI-Anbietern taucht der Wert ebenfalls auf. Ein Chatbot nutzt das fertige Modell, um Antworten zu berechnen — diesen Schritt nennt man Inferenz. Wie lange er dauert, hängt von der Länge der Anfrage und von der Auslastung der Rechenzentren ab. Firmen berichten deshalb, wie viele Millisekunden bis zum ersten Wort vergehen, und geben dazu p75 und p99 an. Steigt p75 über Tage hinweg, ist das ein Signal für zu wenig Rechenkapazität.