StackPerf
StackPerf bezeichnet die Messung der Leistung eines ganzen Technik-Stapels statt einzelner Bauteile: Es zählt, was am Ende beim Nutzer ankommt, nicht wie schnell ein Chip auf dem Papier ist. Solche Gesamtbetrachtungen entscheiden heute darüber, welche KI-Systeme im Betrieb wirklich günstig und schnell sind.
Wenn ein Computerprogramm läuft, arbeiten viele Schichten zusammen. Unten sitzt die Hardware, also die eigentliche Rechenmaschine. Darüber liegen Programme, die die Rechenaufgaben verteilen, und ganz oben die Anwendung, die der Nutzer sieht. Diesen Stapel aus Schichten nennt man in der Technik einen Stack. StackPerf ist die Frage, wie gut dieser komplette Stapel zusammen arbeitet — gemessen in Zeit, Kosten und Energie pro erledigter Aufgabe. Der Begriff steht damit bewusst im Gegensatz zu Zahlen, die nur eine einzelne Schicht beschreiben.
Warum ein schneller Chip noch kein schnelles System ist
Hersteller von Rechenchips werben mit sehr großen Zahlen. Sie geben an, wie viele Rechenoperationen ihr Chip pro Sekunde theoretisch schafft. Diese Werte sind ehrlich gemessen, aber sie gelten nur im Idealfall. In der Praxis erreicht ein KI-System oft nur einen Bruchteil davon.
Der Grund liegt in den Schichten darüber. Die Daten müssen erst aus dem Speicher zum Chip transportiert werden. Die Software muss die Arbeit sinnvoll auf viele Chips verteilen. Läuft dabei etwas ungünstig, wartet der teure Chip die meiste Zeit einfach nur. Genau diese Wartezeit macht ein Blick auf den ganzen Stapel sichtbar.
Wirtschaftlich ist das entscheidend. Wer ein Rechenzentrum für KI baut, gibt Milliarden für Hardware aus. Ob diese Hardware zu 20 oder zu 60 Prozent ausgelastet ist, verändert die Kosten pro Antwort um ein Mehrfaches. Deshalb interessieren sich Anleger und Einkäufer heute stärker für Gesamtwerte als für Chip-Datenblätter.
Was bei einer Stack-Messung tatsächlich gezählt wird
Eine solche Messung beginnt immer bei einer echten Aufgabe. Ein Beispiel: Ein Chatbot soll tausend Nutzerfragen beantworten. Gemessen wird dann, wie lange das dauert, wie viel Strom dabei verbraucht wird und was der Betrieb in dieser Zeit kostet. Alle Schichten werden zusammen bewertet, weil der Nutzer sie auch nur zusammen erlebt.
Man kann sich das wie eine Autobahn vorstellen. Die theoretische Chipleistung entspricht der Höchstgeschwindigkeit der Autos. Was wirklich zählt, ist aber, wie viele Menschen pro Stunde am Ziel ankommen. Ein Stau an der Auffahrt macht schnelle Motoren wertlos. Ein Stack-Wert misst die ankommenden Menschen, nicht die Motorleistung.
Wichtig ist die Unterscheidung von zwei Größen. Latenz beschreibt, wie lange eine einzelne Anfrage braucht. Durchsatz beschreibt, wie viele Anfragen in einer Stunde insgesamt erledigt werden. Beide lassen sich gegeneinander eintauschen: Wer viele Anfragen bündelt, erhöht den Durchsatz, aber jede einzelne Antwort kommt später. Ein häufiger Irrtum ist, eine gute Zahl bei einer der beiden Größen als gute Gesamtleistung zu deuten.
Wo solche Gesamtwerte in Nachrichten auftauchen
Am sichtbarsten sind sie bei Vergleichstests, sogenannten Benchmarks. Bekannt ist MLPerf, eine Reihe von Standardtests für KI-Systeme. Dort treten komplette Aufbauten aus Hardware und Software gegeneinander an. Wenn ein Hersteller meldet, er sei doppelt so schnell wie die Konkurrenz, stammt die Zahl meist aus einem solchen Test.
Auch in Geschäftsberichten spielt das eine Rolle. Anbieter von Cloud-Rechenleistung, also gemietete Server über das Internet, rechnen ihren Kunden Kosten pro Million verarbeiteter Textbausteine vor. Diese Preise sind im Kern Stack-Werte, nur in Euro ausgedrückt. Sinken sie, liegt das oft an besserer Software und nicht an neuen Chips.
Für dich als Leser ist der Nutzen ein gesunder Zweifel. Wenn eine Meldung nur eine einzelne, sehr große Zahl nennt, fehlt meist der Zusammenhang. Sinnvolle Angaben nennen die Aufgabe, den kompletten Aufbau und die Messbedingungen. Fehlen diese Angaben, ist die Zahl eher Werbung als Information.
