Inferenz-Ökonomie

Wenn du einen KI-Chatbot etwas fragst, rechnet auf der anderen Seite ein Computer in einem Rechenzentrum. Dieses Rechnen kostet Strom, Hardware und Platz. Fachleute nennen den Vorgang, bei dem ein fertiges KI-Modell eine Antwort erzeugt, Inferenz. Die Inferenz-Ökonomie ist die Frage, was eine solche Antwort kostet und wie viel sie einbringt. Anders als beim Lernen des Modells, das nur einmal passiert, fallen diese Kosten bei jeder einzelnen Anfrage neu an. Deshalb entscheidet die Inferenz-Ökonomie darüber, ob ein KI-Produkt Geld verdient oder Geld verbrennt.

Warum jede Antwort auf der Rechnung landet

Klassische Software hat eine bequeme Eigenschaft: Ist sie einmal geschrieben, kostet der millionste Nutzer fast nichts extra. Bei KI ist das anders. Jede Anfrage belegt für Sekunden einen teuren Spezialchip. Bei einer Milliarde Anfragen pro Tag summieren sich selbst Bruchteile eines Cents zu enormen Beträgen.

Genau hier entsteht das Geschäftsproblem vieler KI-Anbieter. Sie verkaufen Abos zum Festpreis, etwa 20 Euro im Monat. Ein Nutzer, der den Dienst intensiv verwendet, kann mehr Rechenkosten verursachen, als er bezahlt. Mehrere Anbieter haben öffentlich eingeräumt, dass ihre teuersten Tarife Verluste machen.

Umgekehrt gilt: Sinken die Kosten pro Antwort, werden plötzlich neue Produkte möglich. Eine KI, die jede E-Mail im Hintergrund vorsortiert, wäre bei hohen Kosten unbezahlbar. Bei niedrigen Kosten ist sie eine Standardfunktion. Die Inferenz-Ökonomie bestimmt also nicht nur Gewinne, sondern auch, welche Anwendungen es überhaupt gibt.

Die Rechnung hinter einer einzelnen Antwort

Abgerechnet wird meist in Token. Ein Token ist ein Textbaustein, etwa ein kurzes Wort oder eine Silbe. Anbieter nennen Preise pro Million Token, getrennt für die Eingabe und die Ausgabe. Ein deutscher Satz besteht grob aus 15 bis 25 Token. So lässt sich ausrechnen, was ein Gespräch kostet.

Drei Größen treiben den Preis. Erstens die Modellgröße: Größere Modelle brauchen mehr Rechenschritte pro Token. Zweitens die Länge des Gesprächs, denn das Modell liest bei jeder Antwort den bisherigen Verlauf mit. Drittens die Frage, wie viel das Modell vor der Antwort intern nachdenkt. Sogenannte Reasoning-Modelle erzeugen erst hunderte unsichtbare Zwischenschritte. Das verbessert die Qualität und vervielfacht die Kosten.

An allen drei Stellen wird gespart. Kleine, spezialisierte Modelle übernehmen einfache Anfragen, große nur die schwierigen. Modelle, die pro Anfrage nur einen Teil ihrer Bausteine aktivieren, rechnen schneller bei gleicher Fähigkeit. Zahlen im Modell werden gröber gespeichert, was Rechenzeit spart. Und häufig gestellte Fragen werden zwischengespeichert, damit dieselbe Antwort nicht zweimal berechnet wird. Der Preis pro Million Token ist dadurch in wenigen Jahren um den Faktor hundert gefallen.

Wo die Zahlen in den Nachrichten auftauchen

In Quartalsberichten von Microsoft, Google oder Amazon ist die Inferenz-Ökonomie der Grund für riesige Investitionssummen. Die Konzerne bauen Rechenzentren, weil sie mit stark steigender Nachfrage nach Inferenz rechnen. Analysten fragen dann, ob die Einnahmen aus KI-Diensten diese Ausgaben je decken werden. Genau das ist die Kernfrage der Inferenz-Ökonomie.

Auch im Alltag merkst du die Rechnung. Kostenlose Versionen von Chatbots nutzen kleinere Modelle oder haben Tageslimits. Bezahlversionen geben dir Zugriff auf die teureren, gründlicheren Modelle. Diese Abstufung ist keine Willkür, sondern eine direkte Folge der unterschiedlichen Rechenkosten.

Ein häufiger Irrtum ist, Inferenz-Ökonomie mit den Trainingskosten zu verwechseln. Das Training eines Spitzenmodells kostet einmalig hunderte Millionen und macht Schlagzeilen. Über die gesamte Lebensdauer eines populären Modells liegen die Inferenzkosten aber deutlich höher. Für Anbieter ist die unauffällige Dauerbelastung wirtschaftlich wichtiger als die spektakuläre Einmalinvestition.