
Serverless Inference
Serverless Inference ist ein Betriebsmodell für KI-Modelle, bei dem man keine eigene Server-Hardware buchen oder verwalten muss, sondern einfach Anfragen schickt und nur dafür bezahlt. Der Anbieter kümmert sich automatisch um Rechenkapazität, Auslastung und Ausfallsicherheit.
Wenn ein KI-Modell fertig trainiert ist, muss es irgendwo laufen, damit Nutzer Fragen stellen können. Normalerweise mietet man dafür einen Server — einen leistungsstarken Computer in einem Rechenzentrum — und bezahlt dafür rund um die Uhr, auch nachts, wenn gerade niemand eine Anfrage schickt. Serverless Inference dreht dieses Prinzip um. Man schickt eine Anfrage, irgendwo läuft das Modell kurz an, liefert die Antwort, und danach läuft nichts mehr. Bezahlt wird nur für diese paar Sekunden Rechenzeit. Der Begriff « serverless » ist dabei etwas irreführend: Server gibt es natürlich weiterhin — man sieht sie als Nutzer nur nicht mehr.
Warum das Abrechnungsmodell die KI-Entwicklung verändert
Ein dauerhaft gemieteter Server kostet Geld, egal ob er genutzt wird oder nicht. Für ein Startup, das sein erstes KI-Produkt ausprobiert, ist das ein erhebliches Risiko. Wenn das Produkt flopped, hat man Monate für eine leere Maschine bezahlt. Serverless Inference senkt diese Hürde drastisch.
Gleichzeitig löst es das umgekehrte Problem: Wenn plötzlich tausend Nutzer gleichzeitig kommen, bricht ein einzelner fest gemieteter Server zusammen. Der Anbieter von Serverless Inference skaliert automatisch — das bedeutet, er schaltet bei Bedarf sofort mehr Rechenkapazität hinzu. Für den Entwickler des Produkts passiert das unsichtbar im Hintergrund.
Für große Unternehmen mit sehr gleichmäßiger, hoher Auslastung lohnt sich ein eigener gemieteter Server oft trotzdem. Dort ist Serverless Inference teurer pro Anfrage, weil der Anbieter für die Flexibilität einen Aufpreis nimmt. Die Entscheidung ist also keine Frage des Prinzips, sondern schlicht der Mathematik.
Wie Anfragen im Hintergrund abgearbeitet werden
Schickt man eine Anfrage ab, landet sie bei einem Steuerungssystem des Anbieters. Dieses System prüft, ob das Modell gerade bereits aktiv ist. Wenn ja, geht die Anfrage sofort rein. Wenn nein, startet das System das Modell zuerst — das nennt sich Cold Start, also Kaltstart. Der Kaltstart dauert typischerweise einige Sekunden bis wenige Minuten, je nachdem wie groß das Modell ist.
Der Cold Start ist der wichtigste Nachteil von Serverless Inference. Für einen Chatbot, den jemand tagsüber rege nutzt und nachts nicht, kann das bedeuten: Die erste Anfrage am Morgen wartet spürbar länger. Viele Anbieter bieten deshalb eine Option an, bei der das Modell für einen kleinen Aufpreis ständig warm gehalten wird, also nie vollständig herunterfährt.
Nach der Antwort wartet das System noch kurz — vielleicht kommt gleich die nächste Anfrage. Bleibt es still, fährt das Modell herunter, und der Rechenplatz wird für andere Nutzer freigegeben. Dieser Mechanismus, oft als Scale-to-Zero bezeichnet, ist der Kern des Modells: Keine Nutzung bedeutet null Kosten.
Wo Serverless Inference heute eingesetzt wird
Die großen Cloud-Anbieter — Amazon Web Services, Google Cloud und Microsoft Azure — haben Serverless Inference als eigene Produktlinie. Spezialisierte KI-Plattformen wie Hugging Face oder Replicate bauen ihr gesamtes Geschäftsmodell darauf auf: Entwickler laden ein Modell hoch und können es sofort ohne Serverkonfiguration für andere zugänglich machen.
In der Praxis steckt Serverless Inference oft unsichtbar hinter Produkten, die man täglich nutzt. Eine App, die Fotos automatisch beschriftet, ein Plug-in, das E-Mails auf Ton überprüft, oder ein Übersetzungsfeature in einem Texteditor — all das kann im Hintergrund auf Serverless Inference laufen, weil die Anfragen unregelmäßig kommen und ein dauerhafter Server zu teuer wäre.
In Finanznachrichten taucht der Begriff vor allem auf, wenn Cloud-Anbieter ihre Quartalszahlen präsentieren. Serverless Inference gilt dort als Wachstumssegment, weil immer mehr kleine Teams und Einzelentwickler KI in ihre Produkte einbauen — und genau diese Gruppe ist die Kernzielgruppe des Modells.