Compute-Allokation

Große KI-Programme laufen auf spezialisierten Rechenchips, die in riesigen Rechenzentren stehen. Diese Rechenleistung nennt man in der Branche kurz « Compute ». Sie ist begrenzt: Ein Unternehmen besitzt oder mietet eine bestimmte Zahl solcher Chips, und mehr gibt es kurzfristig nicht. Compute-Allokation ist die Entscheidung darüber, welches Team oder welches Projekt wie viel davon bekommt. Man kann es sich vorstellen wie die Verteilung eines Schulbudgets: Das Geld ist fest, also muss jemand festlegen, ob es in neue Computer, in Bücher oder in eine Klassenfahrt fließt. Bei KI-Firmen geht es dabei nicht um Tausende, sondern um Milliarden Euro pro Jahr.

Warum Rechenleistung zur knappsten Ressource wurde

Bis vor wenigen Jahren war Rechenleistung für die meisten Softwarefirmen ein Nebenposten. Bei KI ist sie zum größten Kostenblock geworden. Ein einziger moderner KI-Chip kostet im Einkauf einen fünfstelligen Betrag. Ein Trainingslauf für ein großes Sprachmodell kann zehntausende solcher Chips über Monate beschäftigen. Die Rechnung dafür liegt schnell im dreistelligen Millionenbereich.

Dazu kommt, dass man diese Chips nicht einfach nachbestellen kann. Es gibt weltweit nur wenige Hersteller, und die Lieferzeiten betragen oft viele Monate. Auch Strom und Kühlung sind ein Engpass, denn ein großes Rechenzentrum verbraucht so viel Energie wie eine Kleinstadt. Wer heute mehr rechnen will, kann das Problem also nicht mit Geld allein lösen.

Deshalb ist die Verteilung des Computes eine Machtfrage geworden. Ein Forschungsteam ohne zugeteilte Rechenleistung kann seine Idee schlicht nicht ausprobieren. In mehreren KI-Unternehmen waren Streitigkeiten über genau diese Zuteilung ein Grund für den Weggang bekannter Forscher. Die Allokation entscheidet damit indirekt, welche Forschungsrichtungen überhaupt eine Chance bekommen.

Wie ein Unternehmen sein Rechenbudget aufteilt

Meist wird das Compute in wenige große Töpfe geteilt. Ein Topf geht ins Training, also in das monatelange Anlernen neuer Modelle. Ein zweiter geht in den laufenden Betrieb, wenn Nutzer dem fertigen Modell Fragen stellen. Ein dritter, kleinerer Topf bleibt für Experimente und Sicherheitstests reserviert.

Diese Töpfe konkurrieren direkt miteinander. Wer mehr Chips ins Training steckt, hat weniger für die Kundschaft übrig. Genau das ist der Grund, warum Anbieter bei einem Nachfrageschub manchmal Antwortlimits einführen oder neue Funktionen verzögern. Die Rechenleistung wurde dann anderswo gebraucht.

Technisch läuft die Zuteilung über Verwaltungssoftware, sogenannte Scheduler. Diese Programme führen eine Warteschlange und weisen jedem Auftrag eine feste Zahl an Chips und eine Zeitspanne zu. Teams bekommen Kontingente, ähnlich wie ein Handytarif ein Datenvolumen hat. Ist das Kontingent aufgebraucht, muss man warten oder intern um mehr bitten.

Wo der Begriff in Wirtschaftsnachrichten auftaucht

In Quartalsberichten großer Technologiekonzerne ist Compute-Allokation ein Dauerthema. Dort steht dann, wie viele Milliarden in neue Rechenzentren fließen und welche Bereiche Vorrang haben. Auch Verträge zwischen Cloud-Anbietern und KI-Firmen drehen sich darum: Ein Anbieter sichert einem Partner eine feste Menge Rechenleistung über mehrere Jahre zu. Solche Zusagen bewegen inzwischen Aktienkurse.

Ein häufiger Irrtum ist, Compute-Allokation mit dem Kauf von Chips gleichzusetzen. Gemeint ist aber die Verteilung bereits vorhandener Kapazität, nicht deren Beschaffung. Verwandt ist der Begriff Compute-Budget: Er bezeichnet die Menge Rechenleistung, die für ein einzelnes Vorhaben eingeplant ist. Die Allokation ist die übergeordnete Entscheidung, wer dieses Budget überhaupt erhält.

Auch außerhalb von Konzernen begegnet einem das Prinzip. Universitäten verteilen Rechenzeit auf ihren Hochleistungsrechnern über Anträge an Forschungsgruppen. Und wer als Privatperson ein KI-Werkzeug nutzt, spürt die Allokation indirekt: an Wartezeiten, an Nachrichtenlimits oder daran, dass eine bezahlte Version schneller antwortet als die kostenlose.