Token-Plan

Wenn ein Computerprogramm Text verarbeitet, zerlegt es ihn zuerst in kleine Stücke. Ein solches Stück nennt man Token: meist ein kurzes Wort, eine Wortsilbe oder ein Satzzeichen. Als grobe Faustregel gilt, dass 100 Wörter deutscher Text etwa 150 bis 200 Token ergeben. Ein Token-Plan ist ein Tarif, bei dem man genau diese Stücke bezahlt oder ein festes Kontingent davon zugeteilt bekommt. Man kauft also keine Nutzungsdauer und keine Anzahl von Fragen, sondern eine Textmenge. Anbieter von Chat- und Programmierassistenten rechnen heute fast alle nach diesem Prinzip ab.

Warum die Rechnung nach Textmenge geht

Für den Anbieter kostet jede Antwort echtes Geld. Spezialisierte Rechenchips müssen dafür laufen, und ihr Stromverbrauch hängt fast direkt an der Textmenge. Eine Ein-Satz-Frage ist billig, die Auswertung eines 80-seitigen Vertrags ist teuer. Ein Tarif nach Token spiegelt diese Kosten deutlich besser als eine Pauschale pro Monat.

Für Nutzer bedeutet das: die eigenen Kosten sind planbar, aber nicht immer intuitiv. Zwei Personen mit demselben Abo können völlig unterschiedliche Rechnungen haben. Wer nur kurze Fragen stellt, kommt sehr weit. Wer ganze Datenbanken durch das Modell schickt, ist schnell am Limit.

Deshalb sind Token-Zahlen inzwischen Teil der Wirtschaftsnachrichten. Wenn ein Anbieter den Preis pro Million Token senkt, ist das eine Meldung wert. In den letzten Jahren sind diese Preise für vergleichbare Leistung immer wieder deutlich gefallen, teils um mehr als 90 Prozent innerhalb weniger Monate.

Wie sich der Verbrauch zusammensetzt

Gezählt wird in beide Richtungen. Alles, was man hineingibt, sind Eingabe-Token. Alles, was das Modell schreibt, sind Ausgabe-Token. Ausgabe ist fast immer teurer als Eingabe, oft um den Faktor drei bis fünf, weil das Modell jedes Wort einzeln neu berechnen muss.

Ein häufiger Irrtum ist, dass nur die letzte Frage zählt. In einem längeren Gespräch schickt das Programm meist den ganzen bisherigen Verlauf mit, damit das Modell den Zusammenhang kennt. Der Verbrauch pro Nachricht steigt also im Laufe eines Chats. Wer ein Dokument anhängt, bezahlt es bei jeder weiteren Nachfrage erneut mit.

Davon zu unterscheiden ist das Kontextfenster. Es beschreibt, wie viele Token ein Modell überhaupt gleichzeitig überblicken kann, und ist eine technische Grenze. Der Token-Plan dagegen ist eine kaufmännische Grenze. Ein Modell kann ein sehr großes Kontextfenster haben, während der eigene Plan trotzdem nach wenigen langen Anfragen erschöpft ist.

Wo Token-Pläne im Alltag auftauchen

Am sichtbarsten sind sie bei Schnittstellen für Entwickler. Dort steht ein Preis wie „pro eine Million Token“, und die Abrechnung erfolgt monatlich nach echtem Verbrauch. Viele Firmen setzen zusätzlich Obergrenzen, damit ein fehlerhaftes Programm nicht über Nacht Tausende Euro verbraucht.

In Verbraucher-Abos ist das Modell oft versteckt. Statt von Token spricht man dann von Nachrichten pro Stunde, von Credits oder von einem Fair-Use-Limit. Dahinter steckt in der Regel trotzdem ein Token-Budget. Auch die Meldung, dass ein Assistent nach intensiver Nutzung auf ein schwächeres Modell umschaltet, hat meist damit zu tun.

Für den Schulalltag heißt das ganz praktisch: eine Zusammenfassung eines langen Textes verbraucht viel, ein kurzer Nachfragedialog wenig. Wer sparsam bleiben will, gibt nur die wirklich nötigen Abschnitte hinein und startet für ein neues Thema ein neues Gespräch.