Input-Token

Ein Chat-Programm wie ChatGPT liest Text nicht Buchstabe für Buchstabe und nicht Wort für Wort. Es zerlegt ihn vorher in kleine Häppchen. Diese Häppchen heißen Token. Ein Token ist oft ein kurzes Wort, manchmal nur eine Silbe oder ein Satzzeichen. Alles, was du selbst hineinschickst — deine Frage, ein eingefügter Text, eine Anweisung — wird zu sogenannten Input-Token. Alles, was das Programm zurückschreibt, zählt dagegen als Ausgabe und wird getrennt gezählt.

Die Einheit, in der KI abgerechnet wird

Wer KI nicht über eine App nutzt, sondern direkt in eigene Software einbaut, bezahlt nach Token. Die Anbieter nennen Preise pro eine Million Token. Input-Token sind dabei fast immer billiger als Ausgabe-Token, oft um den Faktor drei bis fünf. Der Grund: neuen Text zu erzeugen ist rechenaufwendiger, als vorhandenen Text nur einzulesen.

Das klingt nach Kleinbeträgen, summiert sich aber schnell. Eine Firma, die jeder Anfrage ein 30-seitiges Handbuch als Hintergrundwissen mitgibt, schickt pro Frage vielleicht 20.000 Input-Token. Bei einer Million Anfragen pro Monat wird das zu einem echten Kostenblock. Deshalb kürzen Entwickler ihre Eingaben so weit wie möglich.

Ein zweiter Punkt ist die Obergrenze. Jedes Modell hat ein Kontextfenster: die maximale Zahl von Token, die es gleichzeitig verarbeiten kann. Input und Ausgabe müssen zusammen hineinpassen. Ist die Eingabe zu lang, bricht die Anfrage ab oder älterer Text fällt weg.

Vom Satz zur Zahlenliste

Die Zerlegung übernimmt ein Programmteil namens Tokenizer. Er arbeitet mit einer festen Liste von etwa 50.000 bis 200.000 bekannten Textstücken. Häufige Wörter stehen als Ganzes darin, seltene werden aus mehreren Stücken zusammengesetzt. „Haus“ ist ein Token, „Donaudampfschifffahrt“ zerfällt in mehrere.

Danach bekommt jedes Token eine Nummer aus der Liste. Das Modell rechnet also nicht mit Buchstaben, sondern mit einer Reihe von Zahlen. Als Faustregel gilt für Deutsch: ein Token entspricht etwa 0,6 bis 0,7 Wörtern. Deutsche Texte brauchen mehr Token als englische, weil deutsche Wörter länger sind und häufig zusammengesetzt werden.

Ein verbreiteter Irrtum ist, dass Input-Token nur der eigene Text sind. In der Praxis kommt oft viel dazu, was man nicht sieht: eine Systemanweisung des Anbieters, der bisherige Gesprächsverlauf, angehängte Dokumente. Auch Bilder werden in Token umgerechnet. Ein Foto kann mehrere hundert bis über tausend Input-Token kosten.

Woran man Input-Token in Preislisten und News erkennt

In den Preistabellen von OpenAI, Google oder Anthropic stehen immer zwei Spalten: Input und Output. Wer eine KI-Funktion in eine Website einbaut, kalkuliert genau mit diesen Zahlen. Viele Anbieter geben inzwischen Rabatt auf wiederholte Eingaben, sogenanntes Prompt Caching. Schickt man denselben langen Vortext mehrfach, kostet er beim zweiten Mal nur einen Bruchteil.

Auch in Meldungen über neue Modelle tauchen Token auf. Wenn es heißt, ein Modell habe ein Kontextfenster von einer Million Token, bedeutet das: man kann ihm ungefähr ein dickes Buch auf einmal vorlegen. Solche Zahlen sind ein wichtiges Verkaufsargument im Wettbewerb der Anbieter.

Für Privatnutzer bleiben Token meist unsichtbar, weil Abos pauschal abgerechnet werden. Spürbar wird die Grenze trotzdem: Wenn ein sehr langer Chat plötzlich vergisst, was am Anfang stand, ist das Kontextfenster voll. Ältere Input-Token wurden dann verworfen, damit neue Platz haben.