Thinking Tokens

Thinking Tokens

Thinking Tokens sind unsichtbare Zwischenschritte, die ein KI-Modell vor seiner eigentlichen Antwort intern durchrechnet, um schwierigere Aufgaben besser lösen zu können. Sie machen sichtbar, dass moderne Sprachmodelle nicht nur eine Antwort abrufen, sondern aktiv etwas berechnen.

Ein Sprachmodell — also ein KI-System, das Text versteht und erzeugt — gibt normalerweise sofort eine Antwort aus. Bei Thinking Tokens ist das anders. Das Modell produziert zuerst eine Reihe interner Zwischenschritte, bevor es antwortet. Diese Schritte heißen Token, weil Sprachmodelle Text in kleine Einheiten zerlegen, die sie nacheinander erzeugen. Die „denkenden“ Token sind für den Nutzer meist nicht sichtbar — sie laufen im Hintergrund ab. Erst danach kommt die eigentliche Antwort. Je mehr solcher Zwischenschritte das Modell durchläuft, desto besser schneidet es bei komplexen Aufgaben ab.

Warum Thinking Tokens die Leistung steigern

Ein Modell, das sofort antwortet, hat nur eine begrenzte Menge an Rechenoperationen zur Verfügung. Bei einfachen Fragen reicht das aus. Bei einer mathematischen Beweisaufgabe oder einer mehrstufigen Logikaufgabe genügt es nicht.

Thinking Tokens vergrößern den verfügbaren „Rechenraum“. Das Modell kann Zwischenergebnisse notieren, Annahmen prüfen und Irrwege verwerfen, bevor es eine Antwort formuliert. In Benchmarks — standardisierten Tests für KI-Fähigkeiten — verbessern sich die Ergebnisse für Mathematik und Logik durch Thinking Tokens oft erheblich. OpenAIs Modell o3 etwa erzielte in einem olympischen Mathematiktest Ergebnisse, die zuvor kein KI-System erreicht hatte — maßgeblich wegen dieses Prinzips.

Ein verbreiteter Irrtum ist, dass das Modell dabei wirklich „nachdenkt“ wie ein Mensch. Tatsächlich erzeugt es weiterhin Token für Token — nur mehr davon, bevor die Antwort kommt. Der Unterschied ist quantitativ, nicht prinzipiell neu. Dennoch ist der praktische Effekt real und messbar.

Wie das interne Rechnen abläuft

Das Modell erzeugt die Thinking Tokens in einem abgeschirmten Bereich, oft „scratchpad“ (Notizzettel) genannt. Es schreibt dort Überlegungen auf — etwa: Annahme prüfen, Teilproblem lösen, Ergebnis einsetzen. Diese Schritte folgen keiner von Menschenhand geschriebenen Anleitung. Sie entstehen, weil das Modell darauf trainiert wurde, dass ausführlichere interne Überlegungen zu besseren Antworten führen.

Wie lang der Denkprozess sein darf, lässt sich oft steuern. Entwickler können ein Budget an Thinking Tokens setzen. Ein höheres Budget kostet mehr Rechenzeit und damit mehr Geld, liefert aber bei schwierigen Aufgaben bessere Ergebnisse. Bei einer einfachen Frage wie „Was ist die Hauptstadt von Frankreich?“ wäre ein langes Denken reine Verschwendung.

Manche Systeme zeigen dem Nutzer die Thinking Tokens auf Wunsch an. Man sieht dann eine Art Rohfassung des Lösungswegs — mit Umwegen, Korrekturen und Selbstzweifeln. Das unterscheidet Thinking Tokens von einer normalen Antwort, die stets glatt und fertig wirkt, auch wenn der Weg dorthin holprig war.

Thinking Tokens in aktuellen KI-Produkten

Das Prinzip tauchte breit auf, als OpenAI Ende 2024 die o1-Modellreihe veröffentlichte. Seitdem haben Anthropic mit Claude und Google mit Gemini ähnliche Funktionen eingebaut. Der Begriff „extended thinking“ wird oft synonym verwendet, insbesondere von Anthropic.

In Nachrichtenartikeln erscheint das Thema vor allem im Zusammenhang mit KI-Leistung bei schwierigen Tests — und mit Kosten. Thinking Tokens verbrauchen mehr Rechenkapazität als eine direkte Antwort. Anbieter verrechnen sie deshalb teurer. Wer die Funktion aktiviert, zahlt je nach Länge des Denkprozesses ein Vielfaches des normalen Preises.

Für Nutzer ist der Unterschied am deutlichsten bei Aufgaben, die mehrere Schritte erfordern: Code debuggen, juristische Argumente abwägen oder Rechenaufgaben lösen. Bei alltäglichen Anfragen ist der Zugewinn gering. Die Kunst liegt darin zu wissen, wann sich das teure Denken lohnt — und wann eine schnelle Antwort genügt.

Produkte dazu

Aktuelle News

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.