Kosten pro Token

Programme wie ChatGPT zerlegen jeden Text in kleine Bausteine. Ein solcher Baustein heißt Token und entspricht ungefähr einer Silbe oder einem kurzen Wort. Das Wort « Sonnenschein » besteht je nach Programm aus zwei oder drei solchen Bausteinen, ein Punkt oder ein Komma zählt ebenfalls als eigener Baustein. Die Kosten pro Token sagen, wie viel Geld für einen einzigen dieser Bausteine anfällt. Anbieter rechnen dabei sowohl den Text ab, den man hineingibt, als auch den Text, den das Programm zurückschreibt. Weil ein einzelner Baustein extrem billig ist, nennt man Preise fast immer pro eine Million Token.

Warum an dieser Zahl ganze Geschäftsmodelle hängen

Wer eine App mit KI-Funktion baut, kauft die Rechenleistung meist bei einem großen Anbieter ein. Bezahlt wird nicht pro Monat und nicht pro Nutzer, sondern nach verbrauchten Token. Jede einzelne Antwort erzeugt also Kosten. Ein Start-up, das eine Gratis-App mit Millionen Nutzern betreibt, kann daran zerbrechen, wenn die Nutzung schneller wächst als die Einnahmen.

Deshalb taucht die Kennzahl ständig in Wirtschaftsnachrichten auf. Wenn ein Anbieter die Preise pro Million Token halbiert, ist das eine Meldung wert. Zwischen 2023 und 2025 sind diese Preise für vergleichbare Leistung um mehr als das Zehnfache gefallen. Anwendungen, die vorher unbezahlbar waren, wurden dadurch plötzlich möglich.

Für Anbieter ist der Preis zugleich eine Waffe im Wettbewerb. Wer billiger anbietet, gewinnt Kunden, verdient aber pro Anfrage weniger. Manche Anbieter verkaufen zeitweise sogar unter ihren eigenen Rechenkosten, um Marktanteile zu sichern. Das erinnert an Streamingdienste, die in der Anfangsphase mehr für Inhalte ausgeben, als sie an Abos einnehmen.

Was den Preis nach oben oder unten treibt

Hinter jedem Token steckt echte Rechenarbeit auf spezialisierten Grafikchips. Je größer das Modell, desto mehr Rechenschritte sind pro Token nötig. Dazu kommen Strom, Kühlung und die Anschaffung der Chips. Der Anbieter rechnet diese Kosten auf die Zahl der verkauften Token um und schlägt eine Marge auf.

Ein wichtiges Detail: Eingabe und Ausgabe kosten unterschiedlich viel. Eingegebenen Text kann das Modell in einem Rutsch verarbeiten. Antworttext dagegen entsteht Token für Token, jeder neue Baustein braucht einen eigenen Rechendurchlauf. Deshalb ist Ausgabe typischerweise drei- bis fünfmal so teuer wie Eingabe.

Gesenkt wird der Preis vor allem durch Technik. Kleinere Modelle für einfache Aufgaben, gröber gespeicherte Zahlen im Modell und bessere Chips senken die Kosten je Token. Ein weiterer Trick heißt Caching: Text, den man immer wieder mitschickt, wird zwischengespeichert und beim zweiten Mal billiger abgerechnet. Ein Irrtum ist übrigens, dass ein niedriger Tokenpreis automatisch günstiger ist. Manche Modelle denken sich lange Zwischenschritte aus und verbrauchen dadurch ein Vielfaches an Token.

Wo dir die Abrechnung nach Token begegnet

Am direktesten trifft man sie auf den Preisseiten der KI-Anbieter. Dort stehen Tabellen mit Beträgen wie « 0,50 Dollar pro Million Eingabe-Token ». Wer selbst programmiert und eine solche Schnittstelle nutzt, sieht am Monatsende genau, wie viele Token verbraucht wurden. Viele Anbieter zeigen den Verbrauch sogar live in einem Übersichtsfenster an.

Indirekt begegnet dir die Kennzahl in fast jedem KI-Produkt. Wenn ein Chatbot in der Gratisversion nur kurze Antworten gibt oder ein Tageslimit hat, steckt oft eine Kostenrechnung dahinter. Auch die Frage, ob eine Firma ein KI-Feature überhaupt anbietet, hängt an dieser Zahl.

In Analystenberichten wird der Tokenpreis inzwischen ähnlich beobachtet wie der Ölpreis in der Industrie. Er gilt als Grundpreis für maschinelle Textarbeit. Abzugrenzen ist er von den Trainingskosten: Die fallen einmalig beim Bau des Modells an und liegen im Millionenbereich. Die Kosten pro Token betreffen dagegen den laufenden Betrieb, und die zahlt man jeden Tag aufs Neue.