Token-Budget
Ein Token-Budget ist die festgelegte Obergrenze an Textbausteinen, die ein KI-System für eine Aufgabe verarbeiten oder erzeugen darf. Es begrenzt Kosten, Antwortzeit und Länge – und zwingt Entwickler dazu, sorgfältig auszuwählen, was das Modell überhaupt zu sehen bekommt.
Programme wie ChatGPT lesen und schreiben keinen Text als Buchstabenkette. Sie zerlegen ihn in kleine Bausteine, sogenannte Tokens. Ein Token ist meist eine Silbe, ein kurzes Wort oder ein Satzzeichen. Für deutsche Texte gilt als grobe Faustregel: 100 Wörter sind ungefähr 130 bis 150 Tokens. Ein Token-Budget legt fest, wie viele solcher Bausteine für eine Aufgabe höchstens verwendet werden dürfen. Diese Grenze gilt für das, was man dem Programm hinschickt, und für das, was es zurückschreibt.
Warum jede Anfrage einen Preis hat
Anbieter von KI-Modellen rechnen fast immer pro Token ab, nicht pro Anfrage. Eine typische Preisliste nennt einen Betrag je eine Million Tokens Eingabe und einen höheren Betrag je eine Million Tokens Ausgabe. Wer eine App mit hunderttausend Nutzern betreibt, merkt sofort, ob jede Antwort 200 oder 2000 Tokens lang ist. Der Faktor zehn schlägt eins zu eins auf die Rechnung durch.
Neben dem Geld geht es um Zeit. Ein Modell erzeugt seine Antwort Token für Token, also nacheinander. Eine doppelt so lange Antwort braucht ungefähr doppelt so lange. Ein knappes Budget sorgt dafür, dass eine Anwendung sich flüssig anfühlt statt zäh.
Und es gibt eine harte technische Schranke. Jedes Modell hat ein Kontextfenster, also eine maximale Menge an Tokens, die es gleichzeitig überblicken kann. Passt eine Anfrage nicht hinein, wird sie abgeschnitten oder abgelehnt. Das Token-Budget ist die praktische Antwort auf diese Grenze: Man plant von vornherein, wie viel Platz welcher Teil bekommt.
Wie ein Budget aufgeteilt wird
Denk an einen Koffer mit festem Volumen. Alles, was mitsoll, muss hineinpassen: die Systemanweisung, in der steht, wie sich das Modell verhalten soll, der bisherige Gesprächsverlauf, eventuell angehängte Dokumente, die aktuelle Frage – und Platz für die Antwort. Entwickler reservieren deshalb feste Anteile. Ein Beispiel: 500 Tokens für die Anweisung, 4000 für Dokumente, 2000 für den Verlauf, 1000 für die Antwort.
Wird es eng, muss etwas weichen. Bei langen Chats fällt oft der Anfang des Gesprächs heraus, oder er wird durch eine kurze Zusammenfassung ersetzt. Bei Dokumenten sucht ein vorgeschaltetes System nur die passendsten Abschnitte heraus, statt alles mitzuschicken. Beides sind Sparmaßnahmen, und beide haben Nebenwirkungen: Das Modell kann Details vergessen, die es nicht mehr sieht.
Ein verbreiteter Irrtum ist, ein Token sei ein Wort. Das stimmt für kurze englische Wörter ungefähr, für Deutsch nicht. Ein langes zusammengesetztes Wort wie Donaudampfschifffahrt zerfällt in mehrere Tokens. Auch Leerzeichen, Umlaute und Programmcode kosten anteilig mehr, als man erwartet. Wer sein Budget kalkuliert, sollte deshalb messen statt schätzen.
Token-Budgets in Produkten und Schlagzeilen
In den Preistabellen von OpenAI, Google oder Anthropic tauchen Tokens direkt auf. Auch kostenlose Angebote arbeiten mit Budgets, nur unsichtbar: Wenn ein Chatbot dich nach einer Weile bittet, ein neues Gespräch zu beginnen, ist meist das Kontextfenster voll. Manche Programmierwerkzeuge zeigen sogar an, wie viel Platz noch übrig ist.
In Nachrichten begegnet dir das Thema oft als Zahlenwettlauf. Meldungen über Modelle mit einem Kontextfenster von einer Million Tokens bedeuten, dass ein ganzes Buch auf einmal hineinpasst. Das löst das Kostenproblem aber nicht, denn ein volles Fenster ist auch ein teures Fenster. Anbieter werben deshalb parallel mit Rabatten für wiederholte Eingaben.
Für dich selbst zählt vor allem eines: Eine präzise, kurze Frage ist billiger und meist auch besser als ein langer, ungeordneter Textblock. Wer Modelle beruflich einsetzt, plant Token-Budgets ähnlich wie ein Reisebudget – mit festen Posten und einer Reserve für Unvorhergesehenes.