Reasoning-Token

Programme wie ChatGPT verarbeiten Text nicht Buchstabe für Buchstabe, sondern in kleinen Häppchen: einzelne Wörter oder Wortteile. Diese Häppchen nennt man Token. Ein Satz mit zehn Wörtern besteht typischerweise aus zwölf bis fünfzehn Token. Neuere Programme dieser Art rechnen bei schweren Aufgaben erst einmal für sich selbst weiter, bevor sie antworten. Sie schreiben also eine Art inneren Notizzettel, und die Token auf diesem Notizzettel heißen Reasoning-Token. Der Nutzer sieht am Ende nur die fertige Antwort, bezahlt aber den Notizzettel mit.

Warum der unsichtbare Notizzettel Geld kostet

Anbieter rechnen die Nutzung ihrer KI-Dienste pro Token ab. Bezahlt wird alles, was das Modell liest und alles, was es schreibt. Reasoning-Token gehören zum Geschriebenen, auch wenn sie niemand zu sehen bekommt. Bei einer schweren Mathematikaufgabe kann der Notizzettel zehnmal länger sein als die Antwort selbst.

Das erklärt eine Zahl, die in Wirtschaftsmeldungen oft auftaucht: die Betriebskosten von KI-Diensten sind mit den Denkmodellen sprunghaft gestiegen. Eine Anfrage, die früher zweihundert Token erzeugte, erzeugt heute leicht mehrere Tausend. Für Unternehmen, die eine KI in ihre eigene Software einbauen, ist das ein echter Kostenfaktor.

Gleichzeitig kauft man mit diesen Kosten Qualität ein. Bei Logikrätseln, Programmieraufgaben und mehrstufigen Rechnungen sind Denkmodelle deutlich zuverlässiger. Bei einer simplen Frage nach der Hauptstadt von Peru ist der Aufwand dagegen reine Verschwendung. Deshalb bieten viele Anbieter inzwischen einen Regler an, mit dem man die Denkintensität einstellt.

Was auf dem inneren Notizzettel passiert

Das Modell erzeugt Token immer gleich, nämlich eines nach dem anderen, jeweils als wahrscheinlichste Fortsetzung des bisherigen Textes. Bei Reasoning-Token ist nur das Ziel anders. Statt direkt eine Lösung zu formulieren, zerlegt sich das Modell die Aufgabe selbst in Schritte. Es probiert Ansätze aus, verwirft sie und rechnet nach.

Diese Fähigkeit wird antrainiert. Das Modell bekommt beim Lernen Rückmeldung darüber, ob seine Endergebnisse richtig waren. Denkwege, die zu richtigen Ergebnissen führten, werden verstärkt. So lernt es, sich bei schweren Aufgaben mehr Zeit zu nehmen, ohne dass jemand die Zwischenschritte von Hand vorschreibt.

Ein häufiger Irrtum: Reasoning-Token seien ein Protokoll dessen, was im Modell wirklich vorgeht. Das stimmt nicht. Es ist normaler Text, der plausibel klingt und meist hilft, aber auch Unsinn enthalten kann. Manche Anbieter zeigen deshalb nur eine gekürzte Zusammenfassung des Denkwegs statt der echten Token.

Wo die Zahl in Rechnungen und Produkten auftaucht

Am direktesten trifft man Reasoning-Token in den Abrechnungen der Anbieter. Wer über eine Programmierschnittstelle auf ein Modell zugreift, sieht dort eine eigene Zeile für die verbrauchten Denk-Token. Auch die Preislisten unterscheiden inzwischen zwischen Modellen mit und ohne diesen Zusatzaufwand.

Im Alltag merkt man sie an der Wartezeit. Wenn eine KI ein paar Sekunden « nachdenkt » und dabei Zwischenschritte einblendet, entstehen gerade Reasoning-Token. Bei manchen Diensten kann man zwischen einem schnellen und einem gründlichen Modus wählen, was genau diesen Verbrauch steuert.

In Nachrichten über KI-Firmen sind Reasoning-Token außerdem ein Argument in der Debatte um Rechenzentren. Mehr Denken pro Anfrage bedeutet mehr benötigte Grafikchips und mehr Strom. Deshalb hängt an diesem kleinen technischen Begriff ein sehr großer Teil der Investitionsplanung der Branche.