Active Parameters
Active Parameters bezeichnen den Teil der einstellbaren Zahlenwerte eines KI-Modells, der bei einer einzelnen Anfrage tatsächlich mitrechnet. Bei modernen Sprachmodellen ist das oft nur ein Bruchteil der Gesamtzahl, was den Betrieb deutlich billiger macht.
Ein KI-Modell besteht aus Milliarden von Zahlen, die beim Lernen eingestellt wurden. Diese Zahlen nennt man Parameter, und sie speichern das gesamte Wissen des Modells. Bei älteren Modellen wurde für jede Antwort mit allen diesen Zahlen gerechnet. Neuere Modelle machen das anders: Sie schalten pro Anfrage nur einen Teil ihrer Zahlen ein. Genau dieser eingeschaltete Teil sind die Active Parameters. Ein Modell kann also 400 Milliarden Zahlen besitzen und trotzdem nur mit 20 Milliarden davon antworten.
Warum die Gesamtzahl allein nichts über die Kosten sagt
Lange galt eine einfache Regel: mehr Parameter bedeutet mehr Rechenaufwand und höhere Kosten. Mit den aktiven Parametern zerfällt diese Regel. Die Rechenzeit für eine Antwort hängt fast nur davon ab, wie viele Zahlen mitrechnen. Wie viele insgesamt vorhanden sind, spielt dafür kaum eine Rolle.
Für Unternehmen ist das ein enormer Hebel. Wer einen Chatbot mit Millionen Nutzern betreibt, zahlt für jede einzelne Antwort Strom und Rechenzeit. Sinkt die Zahl der aktiven Parameter auf ein Zehntel, sinken diese Kosten drastisch. Das Modell bleibt aber groß und damit vielseitig, weil das Wissen in den ungenutzten Teilen ja nicht verschwindet.
Deshalb nennen Anbieter heute meist zwei Zahlen. Eine Angabe wie « 235B total, 22B active » heißt: 235 Milliarden Parameter existieren, 22 Milliarden rechnen pro Anfrage mit. Wer nur die erste Zahl liest, überschätzt die Betriebskosten massiv. Wer nur die zweite liest, unterschätzt den Speicherbedarf.
Wie das Ein- und Ausschalten zustande kommt
Möglich wird das durch eine Bauweise namens Mixture of Experts. Das Modell ist dabei in viele Teilnetze aufgeteilt, die man Experten nennt. Ein kleines Zusatznetz, der Router, entscheidet für jedes Wort, welche zwei oder vier Experten zuständig sind. Alle anderen bleiben bei dieser Anfrage stumm.
Ein Vergleich hilft: Eine Bibliothek mit einer Million Bücher ist riesig, aber für eine Hausaufgabe holst du drei Bücher aus dem Regal. Die restlichen 999.997 kosten dich keine Lesezeit. Sie müssen aber trotzdem im Gebäude stehen, sonst kannst du sie nie holen.
Damit ist auch der wichtigste Irrtum benannt. Aktive Parameter sparen Rechenzeit, nicht Speicherplatz. Das komplette Modell muss im Arbeitsspeicher der Grafikkarten liegen, auch die schlafenden Teile. Ein Modell mit 400 Milliarden Parametern braucht also weiterhin sehr teure Hardware, selbst wenn nur 17 Milliarden davon aktiv sind. Große Modelle werden dadurch schneller, nicht kleiner.
Wo die Zahl in Produktankündigungen auftaucht
In den Modellkarten und Blogposts der großen Anbieter steht die Angabe inzwischen fast immer. Mistral, DeepSeek, Alibabas Qwen-Reihe und Metas Llama-Modelle nennen aktive und gesamte Parameter getrennt. Auch in Fachmedien und Analystenberichten wird damit argumentiert, wenn es um Kosten pro Antwort geht.
Praktisch merkst du den Effekt an den Preisen der Programmierschnittstellen. Ein Modell mit wenigen aktiven Parametern kostet pro verarbeitetem Text oft nur einen Bruchteil eines gleich großen älteren Modells. Auch die Antwortgeschwindigkeit im Chat hängt daran.
Vorsicht ist bei Vergleichstabellen geboten. Wenn ein Anbieter sein Modell als « kleiner und effizienter » bewirbt, lohnt der Blick, welche der beiden Zahlen gemeint ist. Ein Modell mit 3 Milliarden aktiven Parametern kann in Wahrheit 30 Milliarden groß sein und passt damit nicht auf einen normalen Laptop.