Effort-Steuerung

Moderne Chatprogramme wie ChatGPT können eine Frage unterschiedlich gründlich bearbeiten. Manchmal antworten sie sofort, manchmal rechnen sie vorher eine ganze Weile intern weiter, bevor sie etwas ausgeben. Die Effort-Steuerung ist die Einstellung, mit der man genau das vorgibt. Man sagt dem Programm also nicht, was es antworten soll, sondern wie viel Mühe es sich geben darf. Üblich sind Stufen wie „niedrig“, „mittel“ und „hoch“. Ein passender Vergleich ist eine Klassenarbeit: Bei fünf Minuten Zeit schreibt man die erste plausible Lösung hin, bei einer Stunde rechnet man nach und prüft das Ergebnis.

Warum Gründlichkeit Geld kostet

Jede Antwort eines KI-Systems kostet Rechenzeit auf teuren Spezialchips. Diese Kosten fallen nicht einmalig an, sondern bei jeder einzelnen Anfrage. Wenn ein System vor der Antwort intern lange weiterrechnet, vervielfacht sich dieser Aufwand. Bei einem Dienst mit Millionen Nutzern pro Tag ist das ein sehr großer Unterschied in der Rechnung.

Gleichzeitig braucht längst nicht jede Frage diese Gründlichkeit. „Wie viele Einwohner hat Hamburg?“ ist mit einem Satz beantwortet. Eine mehrstufige Physikaufgabe oder ein Programmierfehler in tausend Zeilen Code sind es nicht. Ohne Effort-Steuerung müsste man sich für einen Kompromiss entscheiden: entweder überall zu teuer oder überall zu ungenau.

Für Unternehmen ist der Regler deshalb vor allem ein Kostenwerkzeug. Sie können günstige Stufen für Routineanfragen einsetzen und die teure Stufe nur dort, wo Fehler wirklich schaden. Auch Geschwindigkeit spielt eine Rolle: Wer in einer App auf eine Antwort wartet, findet zwanzig Sekunden Denkpause oft schlimmer als eine leicht schwächere Antwort.

Was im Modell dabei tatsächlich passiert

Sogenannte Reasoning-Modelle schreiben vor der eigentlichen Antwort einen internen Gedankengang. Das ist Text, den der Nutzer meist nicht zu sehen bekommt. In diesem Text zerlegt das Modell die Aufgabe, probiert Zwischenschritte aus und verwirft Ansätze. Die Effort-Steuerung legt vor allem fest, wie lang dieser interne Teil werden darf.

Technisch wird das oft über ein Budget an Tokens geregelt. Ein Token ist eine kleine Texteinheit, ungefähr eine Silbe oder ein kurzes Wort. Die Stufe „niedrig“ erlaubt vielleicht ein paar hundert solcher Einheiten zum Nachdenken, die Stufe „hoch“ mehrere zehntausend. Manche Anbieter setzen zusätzlich darauf, dass das Modell im Training gelernt hat, sein Tempo an die Vorgabe anzupassen.

Wichtig ist eine Abgrenzung: Die Effort-Steuerung macht das Modell nicht klüger. Sie schaltet keine zusätzlichen Fähigkeiten frei, sondern gibt dem gleichen Modell mehr Zeit. Ein verbreiteter Irrtum ist außerdem, dass „hoch“ immer besser sei. Bei einfachen Fragen führt langes Grübeln manchmal dazu, dass sich das Modell in unnötige Sonderfälle verrennt.

Der Regler in Apps und Entwicklerwerkzeugen

In Chatprogrammen begegnet einem die Effort-Steuerung oft als Modellauswahl oder als Schalter mit Namen wie „Denken“ oder „Extended Thinking“. Man wählt dann zwischen einer schnellen und einer gründlichen Variante. Manche Anbieter entscheiden auch automatisch anhand der Frage, welche Stufe passt.

Wer über eine Programmierschnittstelle auf ein Modell zugreift, sieht den Regler direkter. Bei OpenAI heißt der Parameter „reasoning_effort“, bei anderen Anbietern gibt man ein Denkbudget als Zahl an. Entwickler stellen diesen Wert pro Anfrage ein, oft abhängig davon, wie schwierig die Aufgabe eingeschätzt wird.

In Nachrichten über KI-Firmen taucht das Thema meist bei Kosten und Benchmarks auf. Ein Modell, das in einem Test besonders gut abschneidet, hat dafür oft die teuerste Effort-Stufe genutzt. Vergleiche zwischen Anbietern sind deshalb nur dann fair, wenn man weiß, mit welcher Einstellung gemessen wurde.