Token-Arbitrage

Sprachmodelle wie ChatGPT rechnen Text nicht in Wörtern ab, sondern in kleinen Textbausteinen. Diese Bausteine heißen Token, und ein deutsches Wort besteht oft aus zwei oder drei davon. Anbieter verlangen für jede Million dieser Bausteine einen festen Preis. Die Preise unterscheiden sich stark: zwischen dem billigsten und dem teuersten Anbieter liegt manchmal der Faktor hundert. Token-Arbitrage heißt, aus genau diesem Preisunterschied ein Geschäft zu machen. Man kauft die Rechenleistung dort ein, wo sie wenig kostet, und verkauft sie dort weiter, wo Kunden mehr zahlen.

Warum die Preisspanne so groß ist

Der Markt für KI-Rechenleistung ist jung und unübersichtlich. Es gibt keine zentrale Börse, an der ein einheitlicher Preis entsteht. Jeder Anbieter kalkuliert selbst, abhängig von seinen Rechenzentren, seinen Stromkosten und seiner Auslastung. Manche Firmen verkaufen sogar unter ihren eigenen Kosten, um Marktanteile zu gewinnen.

Dazu kommt ein zweiter Unterschied: nicht jede Aufgabe braucht das teuerste Modell. Eine Rechtschreibkorrektur schafft ein kleines Modell für einen Bruchteil des Preises. Ein großes Spitzenmodell dafür einzusetzen, ist Verschwendung. Wer diese Aufgaben trennt, senkt seine Kosten deutlich, ohne dass der Nutzer einen Qualitätsunterschied merkt.

Für Anleger und Beobachter ist das wichtig, weil es die Gewinnmargen ganzer Firmen erklärt. Viele KI-Startups bauen kein eigenes Modell. Sie kaufen fremde Rechenleistung ein und verkaufen eine Oberfläche darum herum. Ihr Geschäft steht und fällt mit dieser Differenz.

Der Weg einer Anfrage vom Kunden zum billigsten Anbieter

Im einfachsten Fall verlangt ein Anbieter vom Kunden einen Monatsbeitrag, zahlt aber im Hintergrund nur nach tatsächlichem Verbrauch. Wer zwanzig Euro im Monat zahlt und nur für fünf Euro Anfragen stellt, bringt fünfzehn Euro Gewinn. Vielnutzer kosten dagegen Geld. Solche Angebote funktionieren nur, weil sich beide Gruppen ausgleichen.

Technisch aufwendiger ist das sogenannte Routing. Ein kleines Zusatzprogramm prüft jede eingehende Anfrage und schätzt, wie schwer sie ist. Einfache Fragen schickt es an ein günstiges Modell, komplizierte an ein teures. Der Kunde zahlt einen Einheitspreis, während die tatsächlichen Kosten je nach Anfrage stark schwanken.

Ein dritter Hebel ist das Zwischenspeichern, im Fachjargon Caching genannt. Stellen viele Nutzer dieselbe Frage, muss das Modell die Antwort nur einmal berechnen. Manche Anbieter geben für solche wiederverwendeten Textteile Rabatte von bis zu neunzig Prozent. Wer seine Anfragen geschickt aufbaut, zahlt für denselben Inhalt einen Bruchteil.

Wo dieses Geschäftsmodell in den Nachrichten auftaucht

Am sichtbarsten ist es bei Programmierassistenten und Schreibwerkzeugen. Diese Dienste kosten oft zwanzig bis dreißig Euro im Monat und greifen auf Modelle von OpenAI, Anthropic oder Google zu. Wenn ein großer Anbieter seine Preise senkt, steigen die Margen dieser Firmen über Nacht. Erhöht er sie, gerät das ganze Geschäftsmodell ins Wanken.

Ein zweiter Schauplatz sind Plattformen, die viele Modelle über eine einzige Schnittstelle anbieten. Sie werben damit, automatisch das günstigste passende Modell zu wählen. Ihr Nutzen für den Kunden besteht genau darin, die Preisunterschiede zu verwalten.

Ein häufiger Irrtum ist, Token-Arbitrage mit Kryptowährungen zu verwechseln. Der Begriff Token bedeutet dort etwas völlig anderes, nämlich eine digitale Münze. Hier geht es ausschließlich um Textbausteine und deren Abrechnung. Und anders als bei klassischer Arbitrage an der Börse verschwindet der Vorteil nicht sofort, weil die Preise nicht öffentlich verglichen werden.