Self-hosted Deployment
Ein Self-hosted Deployment bedeutet, dass eine Software auf Computern läuft, die dem Nutzer selbst gehören oder von ihm gemietet und verwaltet werden – nicht auf denen des Herstellers. Bei KI-Systemen wählen vor allem Firmen und Behörden diesen Weg, weil ihre Daten dabei das eigene Netzwerk nie verlassen.
Wenn du einen Chatbot im Browser benutzt, läuft die eigentliche Rechenarbeit nicht auf deinem Laptop. Sie passiert auf großen Computern des Anbieters, irgendwo in einem Rechenzentrum. Deine Eingabe wird dorthin geschickt, die Antwort kommt zurück. Bei einem Self-hosted Deployment ist das anders: Die Software wird auf Rechnern installiert, die man selbst besitzt oder selbst gemietet hat. Man bekommt also nicht einen fertigen Dienst, sondern das Programm – und kümmert sich um den Betrieb selbst. Das englische Wort « deployment » heißt so viel wie « Inbetriebnahme » oder « Ausrollen » einer Software.
Wenn Daten das Haus nicht verlassen dürfen
Der wichtigste Grund für diesen Aufwand sind die Daten. Eine Anwaltskanzlei, die Schriftsätze von einer KI zusammenfassen lässt, schickt dabei vertrauliche Mandantenakten weg. Ein Krankenhaus würde Patientendaten übertragen, eine Bank Kontobewegungen. In vielen dieser Fälle verbieten Gesetze oder Verträge genau das. Läuft das Modell im eigenen Serverraum, verlässt kein Byte das Haus.
Dazu kommt Unabhängigkeit vom Anbieter. Ein Cloud-Dienst kann Preise erhöhen, Funktionen abschalten oder ein Modell durch ein neues ersetzen. Wer selbst hostet, entscheidet allein, wann ein Update kommt. Für Software, die in eine Produktionsanlage eingebunden ist, kann das wichtiger sein als die neueste Version.
Der Preis dafür ist Arbeit. Man braucht Leute, die Server warten, Sicherheitslücken schließen und nachts erreichbar sind, wenn etwas ausfällt. Bei kleinen Teams frisst das oft mehr Geld, als der Cloud-Dienst gekostet hätte. Self-hosted ist deshalb nicht automatisch die günstigere Wahl, sondern die kontrolliertere.
Vom Modell-Download bis zum laufenden Server
Grundlage sind meist offene Modelle, deren Gewichte frei heruntergeladen werden dürfen. Gewichte sind die Zahlen, die ein Modell beim Training gelernt hat – im Grunde die Datei, in der sein Wissen steckt. Bekannte Beispiele sind Llama von Meta oder die Modelle von Mistral. Ein Modell einer Firma, die nur Zugang über das Internet anbietet, lässt sich prinzipbedingt nicht selbst hosten.
Die Datei allein reicht nicht. Man braucht Grafikkarten mit genug Speicher, denn große Modelle passen sonst schlicht nicht hinein. Dazu kommt eine Server-Software, die Anfragen entgegennimmt, an das Modell weiterreicht und Antworten zurückschickt. Verbreitet sind dafür Werkzeuge wie vLLM oder Ollama. Häufig wird das Ganze in Containern verpackt – abgeschlossene Pakete, die Programm und alle nötigen Hilfsdateien zusammen enthalten.
Ein verbreiteter Irrtum ist, dass Self-hosting immer den eigenen Keller meint. Auch ein bei einem Anbieter gemieteter Server zählt dazu, solange man ihn selbst verwaltet und die Software selbst betreibt. Entscheidend ist die Kontrolle über den Betrieb, nicht der Standort des Blechs.
Wo der Begriff in Meldungen auftaucht
In Wirtschaftsmeldungen taucht Self-hosting fast immer im Zusammenhang mit Datenschutz auf. Wenn Behörden oder Konzerne ankündigen, KI « in der eigenen Infrastruktur » zu betreiben, ist genau das gemeint. Oft fällt dann auch das Wort On-Premise, das im Kern dasselbe beschreibt.
Auch außerhalb der KI ist die Idee alt. Wer statt Dropbox eine eigene Nextcloud betreibt, hostet selbst. Wer einen Minecraft-Server auf einem alten Rechner laufen lässt, ebenfalls. Der Unterschied zur KI liegt vor allem in den Kosten der Hardware: Grafikkarten für große Modelle sind teuer und knapp.
Für Anbieter offener Modelle ist Self-hosting ein Verkaufsargument gegen die großen Cloud-Firmen. Deshalb wird in Pressemitteilungen betont, dass ein Modell « lokal lauffähig » sei. Bei kleinen Modellen stimmt das sogar für gute Notebooks.