Rate Limit
Ein Rate Limit ist eine Obergrenze dafür, wie oft ein Nutzer oder Programm einen Onlinedienst in einem bestimmten Zeitraum anfragen darf. Wird die Grenze überschritten, lehnt der Dienst weitere Anfragen vorübergehend ab.
Jeder Onlinedienst läuft auf Computern, die nur eine begrenzte Menge Arbeit pro Sekunde schaffen. Damit einzelne Nutzer diese Computer nicht überlasten, setzen Anbieter eine feste Obergrenze. Ein Rate Limit legt fest, wie viele Anfragen jemand in einem bestimmten Zeitraum stellen darf. Typisch sind Regeln wie „höchstens 60 Anfragen pro Minute“ oder „höchstens 1000 pro Tag“. Wer darüber hinausgeht, bekommt keine Antwort mehr, sondern eine Fehlermeldung. Meist ist die Sperre nur vorübergehend: Nach Ablauf des Zeitfensters geht es normal weiter.
Was ohne Obergrenze passieren würde
Rechenleistung ist eine begrenzte und teure Ressource. Ein einziges Programm, das in einer Endlosschleife Anfragen abfeuert, kann einen Server für alle anderen lahmlegen. Das Rate Limit sorgt dafür, dass die Kapazität fair verteilt wird. Es ist also kein Schikane-Mechanismus, sondern eine Schutzmaßnahme für den Betrieb.
Bei KI-Diensten kommt ein zweiter Grund dazu: Kosten. Jede Antwort eines Sprachmodells verbraucht Rechenzeit auf spezialisierten Grafikchips, und die sind knapp. Anbieter wie OpenAI, Anthropic oder Google staffeln ihre Limits deshalb nach Tarif. Wer wenig zahlt, darf wenig anfragen. Wer viel zahlt, bekommt eine höhere Grenze. Das Rate Limit ist damit auch ein Preisinstrument.
Ein dritter Zweck ist Sicherheit. Wer ein Passwort erraten will, probiert Millionen Kombinationen durch. Ein Limit von fünf Login-Versuchen pro Minute macht diesen Angriff praktisch unmöglich. Dasselbe Prinzip bremst Bots, die massenhaft Daten von einer Website abgreifen wollen.
Der Eimer, der langsam nachläuft
Technisch zählt der Server mit, wie viele Anfragen von einem bestimmten Nutzer kommen. Erkannt wird der Nutzer meist an seinem Zugangsschlüssel, einer Art digitalem Ausweis, oder an seiner Internetadresse. Für jeden Nutzer läuft ein eigener Zähler. Überschreitet der Zähler die erlaubte Zahl, blockiert der Server die nächsten Anfragen.
Ein verbreitetes Verfahren heißt Token Bucket, also Eimer mit Münzen. Jede Anfrage kostet eine Münze aus dem Eimer. Der Eimer füllt sich gleichmäßig wieder auf, zum Beispiel mit einer Münze pro Sekunde. Ist er leer, muss man warten. Der Vorteil: Kurze Ausbrüche mit vielen Anfragen sind erlaubt, solange man im Schnitt langsam bleibt.
Bei KI-Schnittstellen zählt oft nicht die Zahl der Anfragen, sondern die Menge an Text. Gemessen wird in Tokens, also in Wortbausteinen. Ein langer Text verbraucht mehr Kontingent als eine kurze Frage. Häufig gelten beide Grenzen gleichzeitig: eine für Anfragen pro Minute, eine für Tokens pro Minute. Wer eine davon reißt, wird gebremst.
Fehler 429 und was Entwickler dagegen tun
Im Alltag merkt man ein Rate Limit meist erst, wenn es zuschlägt. Ein Chatbot antwortet plötzlich, man habe zu viele Nachrichten geschickt. Eine App zeigt die Meldung „Too Many Requests“ oder den Fehlercode 429. Auch Suchmaschinen und soziale Netzwerke drosseln, wenn jemand ungewöhnlich schnell klickt oder scrollt.
In den Wirtschaftsnachrichten tauchen Rate Limits regelmäßig auf, wenn ein KI-Anbieter ein neues Modell startet. Anfangs sind die Grenzen oft sehr eng, weil die nötigen Chips fehlen. Später werden sie gelockert. Auch Streit zwischen Plattformen und Entwicklern dreht sich häufig darum: Als X, früher Twitter, 2023 seine Limits drastisch senkte, brachen viele darauf aufbauende Dienste zusammen.
Programme, die eine Schnittstelle nutzen, gehen mit Limits systematisch um. Üblich ist der sogenannte Backoff: Nach einer Ablehnung wartet das Programm kurz, dann etwas länger, dann noch länger. So findet es von selbst ein Tempo, das der Server verkraftet. Ein häufiger Irrtum ist übrigens, ein Rate Limit sei dasselbe wie ein Nutzungslimit im Tarif. Das Rate Limit begrenzt die Geschwindigkeit, nicht die Gesamtmenge über den Monat.
