Gewichte (Modellgewichte)
Gewichte sind die vielen Zahlen im Inneren eines KI-Modells, die beim Lernen eingestellt werden und festlegen, wie es auf eine Eingabe reagiert. Wer die Gewichtsdateien besitzt, besitzt das fertige Modell.
Ein KI-Programm, das Texte schreibt oder Bilder erkennt, besteht im Kern aus einer riesigen Rechenvorschrift. In diese Rechnung gehen sehr viele Zahlen ein, und genau diese Zahlen nennt man Gewichte. Sie legen fest, wie stark jede einzelne Zwischeninformation das Ergebnis beeinflusst. Am Anfang sind sie zufällig gesetzt, das Programm liefert dann nur Unsinn. Während des Lernens werden sie Millionen Mal leicht nachjustiert, bis die Ausgaben passen. Man kann sie sich wie die Schrauben an einem Mischpult vorstellen: Der Aufbau des Pults bleibt gleich, aber die Stellung aller Schrauben entscheidet, wie es klingt.
Warum die Zahlendatei das eigentliche Kapital ist
Der Programmcode eines KI-Modells ist meist nur ein paar tausend Zeilen lang und technisch nichts Besonderes. Wertvoll ist das Ergebnis des Lernvorgangs, also die eingestellten Gewichte. Für große Sprachmodelle kostet dieses Lernen viele Millionen Euro an Rechenzeit und Strom. Deshalb sprechen Firmen von ihren Gewichten wie andere von einem Fabrikgeheimnis.
Daran hängt auch die viel diskutierte Frage nach offenen Modellen. Wenn ein Unternehmen die Gewichtsdateien zum Herunterladen freigibt, kann jeder das Modell auf eigener Hardware betreiben. Meta hat das mit seiner Llama-Reihe getan, das französische Unternehmen Mistral und das chinesische DeepSeek ebenfalls. OpenAI und Google halten die Gewichte ihrer stärksten Modelle dagegen zurück und bieten nur Zugriff über das Internet an.
Ein häufiger Irrtum: Frei verfügbare Gewichte bedeuten nicht, dass man den Lernvorgang nachvollziehen kann. Die Trainingsdaten und viele Details bleiben oft geheim. Man erhält das fertige Ergebnis, nicht das Rezept. Fachleute nennen solche Modelle deshalb genauer „open weights“ statt Open Source.
Wie aus Zufallszahlen brauchbare Werte werden
Beim Lernen bekommt das Modell ein Beispiel und macht eine Vorhersage. Diese wird mit der richtigen Antwort verglichen, und der Fehler wird berechnet. Dann rechnet das Verfahren zurück, welche Gewichte den Fehler mitverursacht haben. Jedes davon wird um einen winzigen Betrag in die bessere Richtung verschoben. Dieser Kreislauf läuft milliardenfach, bis die Vorhersagen zuverlässig stimmen.
Die Anzahl der Gewichte heißt Parameterzahl, und sie steckt oft im Modellnamen. Ein Modell mit dem Zusatz „7B“ hat rund sieben Milliarden solcher Zahlen. Jede Zahl braucht Speicherplatz, üblicherweise zwei Byte. Sieben Milliarden Gewichte belegen also etwa 14 Gigabyte, was den Grafikspeicher eines normalen Spiele-PCs schon fast füllt.
Weil das teuer ist, speichert man die Zahlen häufig gröber ab, etwa mit einem Byte oder weniger pro Gewicht. Dieses Verfahren heißt Quantisierung. Das Modell wird dadurch kleiner und schneller und verliert nur wenig Genauigkeit. Umgekehrt kann man fremde Gewichte als Startpunkt nehmen und mit eigenen Daten weiter anpassen. Dieses Nachtrainieren nennt man Feintuning und es ist viel billiger als ein Training von null.
Gewichte in Nachrichten und auf dem eigenen Rechner
In Meldungen über KI tauchen Gewichte meist dann auf, wenn es um Zugang und Kontrolle geht. Schlagzeilen wie „Modell veröffentlicht die Gewichte“ bedeuten: Das Modell lässt sich ohne Erlaubnis des Herstellers weiterverwenden. Auch bei Sicherheitsdebatten ist der Begriff zentral, denn ein Diebstahl der Gewichtsdateien käme dem Diebstahl des gesamten Produkts gleich. Der EU-Regulierung und US-Exportregeln geht es unter anderem genau darum, welche Gewichte wohin gelangen dürfen.
Praktisch begegnen sie einem auf Plattformen wie Hugging Face, wo tausende Modelle als Download bereitstehen. Dort steht in der Dateiliste oft ein Format namens safetensors, und das ist nichts anderes als eine Sammlung von Gewichten. Wer ein solches Modell auf dem eigenen Laptop startet, lädt genau diese Zahlen in den Arbeitsspeicher.
Wichtig ist die Abgrenzung zum Prompt, also zur Eingabe des Nutzers. Der Prompt verändert die Gewichte nicht. Ein Chatbot lernt aus deinem Gespräch nicht dauerhaft dazu, solange der Hersteller kein neues Training anstößt. Alles, was das Modell dauerhaft kann, steckt in den Gewichten fest.