Token-basierte Kosten

Token-basierte Kosten

Token-basierte Kosten sind das übliche Abrechnungsmodell für KI-Sprachdienste: Bezahlt wird nach der Menge an Text, die ein Programm hineingibt und herausbekommt, gemessen in kleinen Textbausteinen. Wer viel Text schickt oder lange Antworten erzeugt, zahlt entsprechend mehr.

Wenn ein Unternehmen einen KI-Textdienst wie ChatGPT in die eigene Software einbaut, bezahlt es nicht pro Monat und nicht pro Nutzer. Es bezahlt nach Textmenge. Dazu wird jeder Text in kleine Bausteine zerlegt, sogenannte Token. Ein Token ist meist ein kurzes Wort oder ein Wortteil, im Deutschen im Schnitt etwa drei bis vier Buchstaben. Der Anbieter zählt, wie viele solcher Bausteine hineingehen und wie viele wieder herauskommen, und stellt beides in Rechnung. Genau dieses Abrechnungsmodell meint der Begriff Token-basierte Kosten.

Warum eine Rechnung selten vorhersehbar ist

Bei klassischer Software zahlt man einen festen Betrag pro Monat. Die Kosten stehen vorher fest, egal wie intensiv man das Programm nutzt. Bei KI-Diensten ist das anders: Jede einzelne Anfrage kostet Geld, und zwar unterschiedlich viel. Eine kurze Frage kostet Bruchteile eines Cents, die Analyse eines 80-seitigen Vertrags deutlich mehr. Für Unternehmen ist das eine ungewohnte Rechengröße.

Das Problem verschärft sich, wenn viele Menschen den Dienst nutzen. Ein Chatbot auf einer Website mit einer Million Besuchern erzeugt Millionen von Anfragen. Kleine Beträge summieren sich dann zu sechsstelligen Rechnungen. Deshalb prüfen Firmen genau, ob sich ein KI-Feature überhaupt lohnt, und beobachten den Verbrauch laufend.

Auch für Anleger und Journalisten ist die Kennzahl wichtig. Wenn ein Anbieter den Preis pro Million Token senkt, verändert das die Wirtschaftlichkeit ganzer Geschäftsmodelle. Solche Preissenkungen sind in den letzten Jahren regelmäßig Thema in Tech-News gewesen, weil sie Anwendungen möglich machen, die vorher zu teuer waren.

Wie sich der Preis einer Anfrage zusammensetzt

Der Rechnungsbetrag hat zwei Teile. Die Eingabe umfasst alles, was das Modell zu lesen bekommt: die Frage des Nutzers, angehängte Dokumente und versteckte Anweisungen des Betreibers. Die Ausgabe ist der Text, den das Modell erzeugt. Ausgabe-Token sind meist zwei- bis fünfmal so teuer wie Eingabe-Token, weil das Modell sie einzeln nacheinander berechnen muss.

Preise werden üblicherweise pro Million Token angegeben, etwa in der Form „0,50 Dollar pro Million Eingabe-Token“. Als grober Anhaltspunkt: Eine DIN-A4-Seite Text entspricht rund 700 Token. Ein dickes Buch liegt bei mehreren hunderttausend Token. Wer ein solches Buch von einem teuren Modell zusammenfassen lässt, zahlt dafür schnell mehrere Euro.

Ein häufiger Irrtum ist, dass nur die aktuelle Frage zählt. Bei einem laufenden Gespräch schickt die Software meist den gesamten bisherigen Verlauf erneut mit, weil das Modell selbst kein Gedächtnis hat. Ein langes Gespräch wird deshalb mit jeder Nachricht teurer. Gegenmittel sind Zwischenspeicher für wiederkehrende Textteile, kürzere Anweisungen und die Wahl eines kleineren Modells für einfache Aufgaben.

Wo die Abrechnung sichtbar wird

Am direktesten begegnet man ihr in den Preislisten der Anbieter. OpenAI, Anthropic, Google und Mistral veröffentlichen alle Tabellen mit Beträgen pro Million Token, getrennt nach Modell sowie nach Eingabe und Ausgabe. Wer dort ein Konto hat, sieht in einer Übersicht den eigenen Verbrauch – ähnlich wie bei einer Stromrechnung.

Indirekt trifft man das Modell auch als normaler Nutzer. Kostenlose Chat-Angebote arbeiten mit kürzeren Antworten oder schwächeren Modellen, weil jede Anfrage den Anbieter echtes Geld kostet. Auch Begrenzungen wie „30 Nachrichten pro drei Stunden“ haben diesen Hintergrund.

In Wirtschaftsnachrichten taucht der Begriff auf, wenn es um die Margen von KI-Firmen geht. Abzugrenzen sind Token-basierte Kosten von den Trainingskosten: Das Training eines Modells ist eine einmalige, sehr große Investition. Die Token-Kosten fallen danach bei jeder Nutzung erneut an und bestimmen langfristig, ob ein KI-Produkt Gewinn abwirft.

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.