Tokenverbrauch

Programme wie ChatGPT lesen Text nicht als Buchstaben und nicht als ganze Wörter. Sie zerlegen ihn in kleine Häppchen, die man Token nennt. Ein Token ist meist eine Silbe, ein kurzes Wort oder ein Wortende. Als Faustregel gilt: 100 Wörter deutscher Text entsprechen etwa 130 bis 150 solcher Häppchen. Der Tokenverbrauch ist die Anzahl dieser Häppchen, die bei einer Nutzung anfallen. Dazu zählt beides: das, was du eingibst, und das, was das Programm antwortet.

Warum Anbieter in Token abrechnen

Für ein KI-Modell ist ein Token die kleinste Arbeitseinheit. Jedes einzelne Token bedeutet einen Rechenschritt auf teuren Spezialchips. Deshalb rechnen Anbieter wie OpenAI, Google oder Anthropic nicht pro Frage ab, sondern pro Token. Übliche Preise liegen bei wenigen Euro pro Million Token. Das klingt winzig, summiert sich aber schnell.

Ein Beispiel macht es greifbar. Eine Firma lässt täglich 50.000 Kundenanfragen automatisch beantworten. Jede Anfrage verbraucht mit Frage und Antwort rund 2.000 Token. Das sind 100 Millionen Token pro Tag, also ein spürbarer Kostenblock im Monat. Wer den Verbrauch halbiert, halbiert die Rechnung.

Deshalb ist der Tokenverbrauch auch eine Börsenkennzahl geworden. Google nennt in Quartalsberichten, wie viele Billionen Token seine Systeme monatlich verarbeiten. Steigende Zahlen zeigen Nachfrage, treiben aber auch die Ausgaben für Rechenzentren. Analysten lesen daraus, ob KI-Geschäfte profitabel werden.

Was den Verbrauch in die Höhe treibt

Der offensichtliche Faktor ist die Textlänge. Wer ein 40-seitiges PDF anhängt, schickt leicht 20.000 Token mit. Der unauffälligere Faktor ist das Gedächtnis eines Chats. Bei jeder neuen Nachricht wird der komplette bisherige Gesprächsverlauf erneut mitgeschickt, weil das Modell sich nichts von selbst merkt. Ein langes Gespräch wird also mit jeder Runde teurer als die vorige.

Dazu kommt die Art der Antwort. Neuere Modelle mit sogenanntem Reasoning erzeugen vor der eigentlichen Antwort einen langen internen Gedankengang. Dieser Zwischentext ist für dich unsichtbar, wird aber voll berechnet. Eine Antwort mit drei Sätzen kann so tausende Token gekostet haben.

Ein häufiger Irrtum: Token seien dasselbe wie Wörter. Bei englischem Text kommt das grob hin, bei Deutsch nicht. Lange Komposita wie « Krankenversicherungsbeitrag » werden in mehrere Stücke geschnitten. Programmcode, Sonderzeichen und Emojis sind ebenfalls teuer, weil sie in viele kleine Token zerfallen.

Tokenverbrauch im eigenen Alltag

Wer eine App mit KI-Funktion baut, sieht den Verbrauch direkt im Konto des Anbieters. Dort steht getrennt, wie viele Token eingegangen und wie viele erzeugt wurden. Ausgabe-Token kosten dabei meist mehrere Male so viel wie Eingabe-Token. Auch Chat-Abos begrenzen die Nutzung indirekt: Wenn dir ein Dienst sagt, du habest dein Limit erreicht, steckt dahinter oft eine Tokenrechnung.

In Nachrichten begegnet dir der Begriff bei Preissenkungen. Sinkende Tokenpreise sind das Hauptargument, mit dem Anbieter neue Modellversionen bewerben. Umgekehrt tauchen Meldungen über verbrannte Milliarden auf, wenn Nutzer viel mehr Token verbrauchen als geplant.

Sparen kann man mit einfachen Mitteln. Man startet für ein neues Thema einen frischen Chat, statt den alten Verlauf mitzuschleppen. Man hängt nur die relevanten Seiten eines Dokuments an. Und man wählt für einfache Aufgaben ein kleineres Modell. Das ändert nichts an der Tokenzahl, senkt aber den Preis pro Token deutlich.