Aktivierte Parameter
Aktivierte Parameter sind der Teil der gelernten Stellwerte eines KI-Modells, der für eine einzelne Anfrage wirklich mitrechnet. Die Zahl sagt mehr über Geschwindigkeit und Kosten aus als die oft genannte Gesamtgröße des Modells.
Ein KI-Modell besteht aus vielen Milliarden Zahlen, die beim Lernen eingestellt wurden. Man nennt diese Zahlen Parameter. Sie sind das gesammelte Wissen des Modells, vergleichbar mit den Stellungen unzähliger kleiner Schieberegler. Bei manchen Modellen werden für eine einzelne Frage aber gar nicht alle diese Zahlen benutzt. Nur ein Teil wird eingeschaltet und rechnet mit. Genau dieser benutzte Teil heißt aktivierte Parameter. Der Rest bleibt bei dieser Anfrage stumm, obwohl er weiterhin existiert.
Warum die Gesamtgröße allein täuscht
In Meldungen über neue KI-Systeme steht meist eine große Zahl: 400 Milliarden Parameter, 600 Milliarden, manchmal mehr. Diese Zahl klingt nach Leistung, sagt aber nichts über Tempo und Kosten. Wenn pro Anfrage nur 30 von 600 Milliarden Zahlen mitrechnen, arbeitet das Modell etwa so schnell wie ein viel kleineres. Deshalb geben Hersteller heute oft beide Werte an: die Gesamtzahl und die aktivierte Zahl.
Die aktivierte Zahl bestimmt, wie viel Rechenarbeit jede einzelne Antwort verursacht. Und jede Antwort kostet Strom und Rechenzeit, bei Millionen Nutzern jeden Tag neu. Ein Modell mit wenigen aktivierten Parametern ist im Betrieb deutlich billiger. Für Unternehmen, die solche Systeme anbieten, ist das ein zentraler Kostenfaktor.
Ein häufiger Irrtum: viele lesen eine kleine aktivierte Zahl als Hinweis auf ein schwaches Modell. Das stimmt so nicht. Das Wissen steckt in der Gesamtmenge, und für jede Frage wird der passende Ausschnitt daraus geholt. Ein solches Modell kann mehr wissen als ein kleines Modell derselben Rechengeschwindigkeit.
Wie die Auswahl im Modell zustande kommt
Möglich wird das durch einen Bauplan namens Mixture of Experts. Das Modell ist dabei in viele Teilgruppen aufgeteilt, die Experten genannt werden. Ein kleines Zusatznetz, der Router, entscheidet bei jedem Wort, welche zwei oder drei Experten arbeiten sollen. Nur deren Parameter gelten als aktiviert. Alle anderen Experten überspringt die Rechnung einfach.
Ein Teil des Modells rechnet allerdings immer mit, etwa die Bausteine, die den Text zerlegen und den Zusammenhang zwischen Wörtern herstellen. Die aktivierte Zahl ist deshalb die Summe aus diesem festen Anteil und den gerade gewählten Experten. Rechenzeit spart dieses Verfahren, Speicherplatz nicht: Auch die schlafenden Experten müssen auf den Grafikkarten liegen. Sonst müsste man sie erst laden, und das wäre langsamer als jede Ersparnis.
Nicht zu verwechseln ist das mit Quantisierung. Dort speichert man dieselben Parameter gröber, um Platz zu sparen. Bei aktivierten Parametern bleibt die Genauigkeit gleich, man benutzt nur weniger davon gleichzeitig. Beide Techniken lassen sich kombinieren.
Wo die Zahl in Datenblättern auftaucht
Wer sich Modellkarten oder Ankündigungen ansieht, findet oft Angaben wie „235B total, 22B active“. Das B steht für Milliarden, total für die Gesamtzahl, active für die aktivierten Parameter. Modelle von DeepSeek, Mistral, Alibaba und Meta werden seit einigen Jahren so beschrieben. Auch die großen kommerziellen Systeme dürften so aufgebaut sein, veröffentlichen ihre Zahlen aber nicht.
Praktisch relevant ist der Unterschied, wenn jemand ein Modell selbst betreiben will. Die Gesamtzahl entscheidet, wie viel Grafikkartenspeicher man braucht. Die aktivierte Zahl entscheidet, wie viele Wörter pro Sekunde herauskommen. Ein Modell kann also gleichzeitig zu groß für den eigenen Rechner und angenehm schnell sein.
In Börsenmeldungen tauchen aktivierte Parameter indirekt auf. Sinken sie, sinken die Betriebskosten pro Antwort, und ein Anbieter kann Preise senken oder Gewinnspannen erhöhen. Deshalb gilt eine niedrige aktivierte Zahl bei guter Qualität als technischer Vorteil, über den Analysten schreiben.