Overplanning

Moderne KI-Programme beantworten schwierige Fragen nicht in einem Zug. Sie legen sich vorher einen Plan zurecht: erst dieser Zwischenschritt, dann jener, dann die Antwort. Overplanning heißt, dass dieser Plan viel zu ausführlich wird. Das System zerlegt eine einfache Aufgabe in zwanzig Teilschritte, obwohl zwei genügt hätten. Man kennt das von Menschen: jemand schreibt drei Stunden lang Listen, statt einfach anzufangen. Bei einer KI kostet dieses Verhalten Rechenzeit und Geld, und das bei jeder einzelnen Anfrage.

Warum ausführliche Pläne teuer werden

Jeder Zwischenschritt bedeutet Text, den das System selbst erzeugt und danach wieder liest. Für diese Textmenge wird bezahlt, meist pro Wortbaustein. Wer eine KI über eine Programmierschnittstelle nutzt, sieht das direkt auf der Rechnung. Ein Modell, das für eine Rückfrage zur Öffnungszeit einen fünfzehnstufigen Plan entwirft, kann leicht das Zehnfache kosten.

Dazu kommt die Wartezeit. Ein Chatbot, der eine halbe Minute nachdenkt, bevor er eine triviale Frage beantwortet, fühlt sich kaputt an. In Produkten mit vielen Nutzern ist Antwortzeit ein hartes Kriterium. Deshalb behandeln Anbieter Overplanning nicht als Schönheitsfehler, sondern als echtes Problem.

Der wichtigste Punkt ist aber: mehr Planung heißt nicht mehr Genauigkeit. Ab einem gewissen Punkt beginnt das System, sich in eigenen Zwischenüberlegungen zu verheddern. Es baut auf einen falschen Teilschritt weiter auf und begründet das Ergebnis anschließend überzeugend. Messreihen zeigen bei vielen Aufgaben eine Kurve, die erst steigt und dann wieder fällt.

Wie zu lange Gedankenketten entstehen

Die Ursache liegt im Training. Modelle, die schrittweise denken sollen, werden dafür belohnt, wenn am Ende die richtige Lösung steht. Ob der Weg dorthin kurz war, wird oft nicht bewertet. Also lernt das Modell eine einfache Strategie: lieber zu viel als zu wenig überlegen. Dieses Verhalten überträgt es dann auch auf Aufgaben, die gar keine Überlegung brauchen.

Verstärkt wird das durch Systeme, die selbst Werkzeuge aufrufen dürfen, etwa eine Suchmaschine oder einen Taschenrechner. Solche Systeme nennt man Agenten. Ein Agent kann in eine Schleife geraten: er sucht, bewertet das Ergebnis als unzureichend, sucht erneut, plant um. Ohne Abbruchregel läuft das weiter, bis ein Zeitlimit greift.

Gegenmittel gibt es mehrere. Man kann ein Budget setzen, also eine feste Obergrenze für Zwischenschritte. Man kann kurze Lösungswege im Training zusätzlich belohnen. Und man kann eine Vorschaltstufe einbauen, die zuerst einschätzt, wie schwer die Aufgabe ist, und leichte Fragen direkt beantwortet. Abzugrenzen ist Overplanning von Halluzination: dort erfindet ein Modell Inhalte, hier arbeitet es korrekt, aber unwirtschaftlich.

Overplanning in Chatbots und Firmenbilanzen

Im Alltag begegnet man dem Phänomen bei Chatbots mit sichtbarem Denkbereich. Manche Oberflächen zeigen an, was das Modell gerade überlegt. Wenn dort bei der Frage nach der Hauptstadt Frankreichs ein Absatz voller Abwägungen erscheint, ist das Overplanning im Reinformat. Viele Anbieter haben deshalb Schalter eingebaut, mit denen man zwischen schneller und gründlicher Antwort wählt.

In Wirtschaftsnachrichten taucht das Thema unter dem Stichwort Inferenzkosten auf. Damit sind die Kosten für den laufenden Betrieb eines fertigen Modells gemeint. Unnötige Denkschritte treiben diese Kosten hoch und drücken die Gewinnspanne. Wenn ein Unternehmen ankündigt, sein Modell arbeite jetzt effizienter bei gleicher Qualität, geht es häufig genau darum.

Auch bei Vergleichstests wird inzwischen mitgemessen, wie viel Text ein Modell für eine Lösung verbraucht. Ein System, das eine Aufgabe mit halb so vielen Schritten löst, gilt als besser — selbst wenn die Trefferquote gleich ist. Sparsames Denken ist damit zu einem eigenen Qualitätsmerkmal geworden.