Chain-of-Thought

Programme wie ChatGPT setzen Antworten Wort für Wort zusammen. Fragt man direkt nach dem Ergebnis, raten sie oft nur schnell. Chain-of-Thought heißt: Das Programm schreibt zuerst seinen Rechen- oder Denkweg auf, Schritt für Schritt, und nennt das Ergebnis erst am Ende. Auf Deutsch etwa “Gedankenkette”. Der Effekt ist derselbe wie in einer Mathe-Klausur: Wer nur die Lösung hinschreibt, verrechnet sich häufiger als jemand, der den Weg notiert.

Warum das wichtig ist

Der Unterschied ist messbar, nicht nur kosmetisch. Bei Textaufgaben aus der Mathematik stieg die Trefferquote in frühen Experimenten von rund 18 auf über 50 Prozent, allein durch die Aufforderung, den Weg zu zeigen. Das Modell wurde dafür nicht verändert. Es nutzte nur seine Rechenzeit anders.

Daraus ist eine ganze Gerätegeneration entstanden. Modelle wie OpenAI o1, o3 oder DeepSeek-R1 werden “Reasoning-Modelle” genannt, also Modelle mit Schlussfolgerungsschritt. Sie denken vor jeder Antwort intern lange nach, manchmal über tausende Wörter. Das kostet Geld, denn jeder dieser Zwischenschritte muss berechnet werden. Deshalb ist “längeres Nachdenken” heute ein Verkaufsargument und ein Kostenfaktor gleichzeitig.

Wie es funktioniert

Ein Sprachmodell sagt immer nur das nächste Wort voraus, gestützt auf alles, was vorher steht. Das eigene Zwischenergebnis wird damit Teil der Grundlage für den nächsten Schritt. Ein Zwischenschritt entlastet also das Gedächtnis: Was schon aufgeschrieben ist, muss nicht mehr im Kopf behalten werden.

Ausgelöst wird das auf drei Wegen. Erstens durch die Anweisung im Text, etwa “Denke Schritt für Schritt”. Zweitens durch Beispiele: Man zeigt dem Modell eine gelöste Aufgabe samt Rechenweg, dann ahmt es dieses Muster nach. Drittens durch Training. Moderne Reasoning-Modelle werden gezielt darauf trainiert, lange Lösungswege zu erzeugen, und dafür belohnt, wenn am Ende das richtige Ergebnis steht.

Wichtig ist eine Einschränkung. Der aufgeschriebene Weg ist nicht zwingend der Weg, auf dem das Modell wirklich zur Antwort kam. Studien zeigen Fälle, in denen die Begründung plausibel klingt, aber nachträglich konstruiert ist. Eine Gedankenkette ist also kein Beweis, sondern ein Text, der wie eine Begründung aussieht. Sie kann auch schlicht falsch sein und trotzdem sehr überzeugend wirken.

Wo man dem Begriff begegnet

Im Alltag sieht man den Effekt in Chat-Oberflächen. Wenn dort “Denkt nach” oder “Thinking” steht und Sekunden bis Minuten vergehen, läuft eine Gedankenkette. Manche Anbieter zeigen eine gekürzte Zusammenfassung davon, andere verbergen sie, weil sie als Betriebsgeheimnis gilt. Wer selbst mit einem Chatbot arbeitet, kann den Effekt erzwingen, indem er nach dem Rechenweg fragt statt nur nach der Zahl.

In den Wirtschaftsnachrichten taucht der Begriff meist im Zusammenhang mit Kosten und Rechenzentren auf. Reasoning-Modelle verbrauchen pro Anfrage ein Vielfaches an Rechenleistung, was die Nachfrage nach Spezialchips antreibt. Fachleute sprechen von "Test-Time Compute", also Rechenaufwand im Moment der Nutzung. Die Idee dahinter: Leistung kommt nicht mehr nur aus größeren Modellen, sondern auch daraus, dass ein Modell länger arbeiten darf. In Prüfungsberichten von Behörden und Aufsichtsstellen wiederum wird die sichtbare Gedankenkette diskutiert, weil sie Fehler nachvollziehbarer macht als eine nackte Antwort.