Chain-of-Thought-Protokoll
Ein Chain-of-Thought-Protokoll ist die schriftliche Zwischenrechnung, die ein Sprachmodell erzeugt, bevor es seine eigentliche Antwort ausgibt. Es macht den Lösungsweg sichtbar, ist aber nicht zwangsläufig der echte Grund für die Antwort.
Programme wie ChatGPT sagen ein Wort nach dem anderen voraus. Sie haben keinen Notizzettel neben sich, auf dem sie stillschweigend rechnen könnten. Wenn sie sofort eine Zahl ausspucken, ist das eher geraten als gerechnet. Deshalb lässt man sie den Lösungsweg aufschreiben: erst Schritt eins, dann Schritt zwei, am Ende das Ergebnis. Genau diese ausformulierte Zwischenrechnung nennt man ein Chain-of-Thought-Protokoll, auf Deutsch etwa Gedankenkette. Der Text selbst ist das Nachdenken, nicht nur ein Bericht darüber.
Warum das Aufschreiben die Trefferquote hebt
Ein Modell hat pro erzeugtem Wort ungefähr gleich viel Rechenzeit zur Verfügung. Eine schwere Aufgabe bekommt also nicht automatisch mehr Bedenkzeit als eine leichte. Wer das Modell zwingt, zwanzig Zwischenschritte zu schreiben, gibt ihm zwanzig Portionen Rechenzeit statt einer. Das ist der eigentliche Trick: Der Text ist der Arbeitsspeicher.
Der Effekt ist messbar. Bei Textaufgaben aus der Mathematik stiegen die Ergebnisse in frühen Untersuchungen von unter 20 Prozent auf über 50 Prozent, allein durch die Aufforderung, schrittweise vorzugehen. Am größten ist der Gewinn bei mehrstufigen Aufgaben: Logikrätsel, Programmierfehler, juristische Fälle. Bei einer simplen Wissensfrage bringt es dagegen fast nichts.
Wichtig ist eine Abgrenzung, die oft durcheinandergeht. Das Protokoll ist keine ehrliche Selbstauskunft des Modells. Untersuchungen zeigen, dass Modelle Antworten liefern, die im geschriebenen Weg gar nicht angelegt sind. Das Protokoll kann also plausibel klingen und trotzdem am tatsächlichen Rechenvorgang vorbeigehen.
Vom Prompt-Trick zum eingebauten Verfahren
Anfangs war das eine Sache der Formulierung. Man hängte an die Frage schlicht den Satz an, das Modell solle Schritt für Schritt vorgehen. Alternativ zeigte man ihm zwei, drei Beispielaufgaben samt ausführlichem Lösungsweg. Das Modell übernahm dann das Muster und schrieb bei der eigentlichen Frage ebenfalls einen Weg auf.
Neuere Systeme brauchen diese Aufforderung nicht mehr. Sie wurden gezielt darauf trainiert, vor jeder Antwort intern ein Protokoll zu erzeugen. Man nennt sie Reasoning-Modelle, also Modelle mit ausgelagertem Rechenschritt. Sie produzieren manchmal tausende Wörter Zwischenrechnung für eine Antwort von drei Zeilen.
Ein Ausbau davon heißt Self-Consistency. Dabei lässt man das Modell dieselbe Aufgabe mehrfach lösen, jedes Mal mit einem etwas anderen Weg. Anschließend zählt man aus, welches Endergebnis am häufigsten vorkommt. Ein Rechenfehler ist meist ein Einzelfall, der richtige Weg wiederholt sich. Das kostet allerdings die fünf- bis zehnfache Rechenzeit.
Warum Anbieter die Gedankenkette verstecken
Bei den meisten Chat-Oberflächen siehst du das Protokoll nicht vollständig. Anbieter blenden stattdessen eine kurze Zusammenfassung ein, oft nur ein Hinweis wie « denkt nach ». Der Grund ist wirtschaftlich: Aus vollständigen Protokollen könnte Konkurrenz ein eigenes Modell nachtrainieren. Manche Anbieter, etwa bei offen verfügbaren Modellen, zeigen die Kette dagegen komplett.
In Nachrichten aus der Branche taucht der Begriff vor allem bei zwei Themen auf. Erstens bei Kosten: Lange Protokolle bedeuten viele erzeugte Wörter, und abgerechnet wird pro Wortbaustein. Eine Anfrage an ein Reasoning-Modell kann deshalb ein Vielfaches einer normalen Anfrage kosten. Zweitens bei Sicherheit: Forschungsteams lesen Protokolle mit, um zu erkennen, ob ein Modell auf gefährliche Ideen kommt.
Ein typischer Irrtum bleibt: Viele halten das Protokoll für einen Blick in das Innere des Modells. Das ist es nicht. Es ist erzeugter Text wie jeder andere, nur eben Text, der beim Rechnen hilft. Wer eine Begründung liest, sollte sie prüfen und nicht für einen Beweis halten.