Token-Preise

Wenn ein Computerprogramm Text verarbeitet, zerlegt es ihn zuerst in kleine Häppchen. Diese Häppchen heißen Token. Ein Token ist oft ein kurzes Wort, manchmal nur eine Silbe oder ein Satzzeichen. Als Faustregel gilt: 1000 Token entsprechen im Deutschen ungefähr 700 Wörtern. Anbieter von KI-Diensten rechnen ihre Nutzung genau in dieser Einheit ab. Der Token-Preis sagt also, was tausend oder eine Million solcher Häppchen kosten.

Warum aus Cent-Beträgen echte Rechnungen werden

Einzeln betrachtet wirken die Beträge lächerlich klein. Ein Anbieter verlangt vielleicht 3 Dollar für eine Million Token Eingabe. Eine normale Chatfrage kostet damit den Bruchteil eines Cents. Genau diese Kleinheit täuscht aber, sobald viele Anfragen zusammenkommen.

Ein Unternehmen, das täglich hunderttausend Kundenanfragen automatisch beantwortet, zahlt am Monatsende schnell fünfstellige Summen. Deshalb sind Token-Preise für Firmen keine Nebensache, sondern ein zentraler Posten in der Kalkulation. Ob sich ein KI-Produkt überhaupt rechnet, hängt oft nur an diesen Zahlen. Wer pro Kunde zwei Euro einnimmt, aber drei Euro an Token verbraucht, macht mit jedem neuen Nutzer mehr Verlust.

Dazu kommt der Preisverfall. Die Kosten pro Token sind in den vergangenen Jahren dramatisch gesunken, teils um mehr als das Zehnfache pro Jahr. Anwendungen, die 2023 unbezahlbar waren, sind heute Alltag. Wenn in Wirtschaftsnachrichten von einem Preiskampf zwischen KI-Anbietern die Rede ist, geht es fast immer um Token-Preise.

Wie sich eine Rechnung zusammensetzt

Fast alle Anbieter unterscheiden zwei Richtungen. Der Text, den man hineinschickt, heißt Eingabe. Der Text, den das Modell erzeugt, heißt Ausgabe. Ausgabe ist deutlich teurer, oft drei- bis fünfmal so teuer wie Eingabe. Der Grund liegt in der Rechenarbeit: Das Modell erzeugt jedes Ausgabe-Token einzeln nacheinander, während es die Eingabe in einem Rutsch einlesen kann.

Ein Beispiel: Man schickt einen zehnseitigen Vertrag hinein, rund 8000 Token, und bekommt eine Zusammenfassung von 500 Token zurück. Bei 3 Dollar für eine Million Eingabe-Token und 15 Dollar für eine Million Ausgabe-Token kostet das etwa 3,2 Cent. Interessant wird es, wenn dieselbe Anfrage tausendmal am Tag läuft.

Ein häufiger Irrtum: Man zahlt nicht nur für die eigene Frage. Bei einem längeren Gespräch schickt das Programm meist den kompletten bisherigen Verlauf erneut mit, damit das Modell den Zusammenhang kennt. Modelle haben nämlich kein Gedächtnis zwischen zwei Anfragen. Lange Unterhaltungen werden dadurch mit jeder Runde teurer. Manche Anbieter federn das mit Rabatten ab, wenn derselbe Textanfang mehrfach vorkommt.

Token-Preise in Produkten und Schlagzeilen

Als Privatnutzer sieht man Token-Preise selten direkt. Ein Chatbot-Abo für 20 Euro im Monat versteckt die Abrechnung hinter einem Festpreis. Sichtbar werden die Preise erst in den Preislisten der Anbieter für Entwickler. Dort steht für jedes Modell, was eine Million Eingabe- und Ausgabe-Token kostet.

In Nachrichten tauchen Token-Preise regelmäßig auf, wenn ein Anbieter ein neues Modell vorstellt. Meist lautet die Botschaft: gleiche Qualität, halber Preis. Auch die Debatte um chinesische Anbieter drehte sich stark um diesen Punkt, weil deren Modelle zu einem Bruchteil der üblichen Preise angeboten wurden.

Wichtig ist die Abgrenzung zu den Trainingskosten. Ein Modell zu trainieren kostet einmalig womöglich hunderte Millionen Dollar. Token-Preise betreffen dagegen den laufenden Betrieb, also die Nutzung des fertigen Modells. Beides zusammen entscheidet, ob ein KI-Anbieter langfristig Geld verdient.