
Streaming Multiprocessor
Ein Streaming Multiprocessor ist der grundlegende Rechenblock einer Nvidia-Grafikeinheit (GPU): Er bündelt viele kleine Rechenkerne und führt Tausende Aufgaben gleichzeitig aus. Für KI-Training und Grafikrendering sind Streaming Multiprocessors entscheidend, weil die Leistung einer GPU direkt davon abhängt, wie viele und wie leistungsfähige SMs verbaut sind.
Eine moderne Grafikkarte (GPU) besteht nicht aus einem einzigen Rechenkern, sondern aus Tausenden. Diese Kerne sind jedoch nicht einzeln verstreut — sie sind in Gruppen zusammengefasst. Jede dieser Gruppen heißt Streaming Multiprocessor, kurz SM. Ein SM enthält je nach Modell 64 bis 128 solcher kleinen Rechenkerne, dazu einen gemeinsamen Zwischenspeicher und die nötige Steuerlogik. Die gesamte GPU setzt sich dann aus Dutzenden bis Hunderten dieser SMs zusammen. Ein Nvidia-Chip der aktuellen Generation — etwa der H100, der in KI-Rechenzentren eingesetzt wird — besitzt über 130 SMs, also mehr als 16.000 Einzelkerne insgesamt.
Die Grundlage der GPU-Leistung
Warum nicht einfach einen sehr schnellen Einzelkern bauen? Weil viele Aufgaben in der Grafik und in der KI sich in Tausende voneinander unabhängige Teilaufgaben zerlegen lassen. Das Rendern eines Bildes bedeutet zum Beispiel, für jeden der Millionen Bildpunkte eine sehr ähnliche Berechnung durchzuführen. All diese Berechnungen gleichzeitig zu erledigen ist schneller, als sie nacheinander abzuarbeiten — egal wie schnell der Einzelkern wäre.
Der SM ist der Baustein, der diese Parallelität umsetzt. Er führt viele Rechenoperationen buchstäblich im gleichen Takt aus. Je mehr SMs eine GPU hat, desto mehr Operationen laufen gleichzeitig — und desto höher ist die Rechenleistung in der Einheit TFLOPS (Billionen Gleitkommaoperationen pro Sekunde). Diese Zahl taucht in GPU-Datenblättern immer wieder auf und hängt direkt an der Anzahl und Taktfrequenz der SMs.
Was im Inneren eines SM passiert
Ein SM teilt die ihm zugewiesenen Aufgaben in kleine Gruppen von 32 Threads auf. Ein Thread ist dabei die kleinste Ausführungseinheit — man kann ihn sich als eine einzelne laufende Berechnung vorstellen. Diese Gruppe von 32 Threads nennt Nvidia einen Warp. Alle 32 Threads eines Warps führen in jedem Takt exakt dieselbe Anweisung aus, aber auf unterschiedlichen Daten. Dieses Prinzip heißt SIMD (Single Instruction, Multiple Data): eine Anweisung, viele Datensätze.
Der SM verwaltet dabei oft mehrere Warps gleichzeitig. Muss ein Warp kurz warten — weil er Daten aus dem langsamen Hauptspeicher der Karte braucht —, schaltet der SM sofort auf einen anderen Warp um, der schon rechnen kann. So bleibt die Rechenkapazität des SM fast die ganze Zeit ausgelastet, statt auf Daten zu warten. Dieses schnelle Umschalten ist ein wesentlicher Grund, warum GPUs bei parallelen Aufgaben so effizient sind.
Neben den Rechenkernen für normale Dezimalzahlen enthalten neuere SMs auch spezialisierte Einheiten: sogenannte Tensor Cores. Diese sind speziell auf die Matrizenmultiplikation ausgelegt — also genau die Rechenoperation, die beim Training und Betrieb von KI-Modellen am häufigsten vorkommt. Ein Tensor Core erledigt dieselbe Aufgabe in einem Bruchteil der Zeit, die ein normaler Rechenkern bräuchte.
Streaming Multiprocessors in der Praxis
Wenn Tech-Medien über neue KI-Chips berichten, ist die SM-Anzahl eine der ersten Kennzahlen, die genannt werden. Der Nvidia H100-Chip, den Unternehmen wie Google, Microsoft oder Meta in großen Mengen kaufen, hat 132 SMs. Sein Nachfolger, der B200, bringt noch mehr SMs mit verbesserter Architektur. Der Vergleich dieser Zahlen gibt einen schnellen Eindruck, wie viel mehr Rechenleistung eine neue Generation liefert.
Auch beim Spielen hat jeder schon indirekt mit SMs zu tun gehabt. Jedes Bild eines 3D-Spiels entsteht dadurch, dass Dutzende SMs gleichzeitig Licht, Schatten und Oberflächen berechnen. Ohne diese Parallelstruktur wäre flüssiges Gaming bei hoher Auflösung nicht möglich.
Ein häufiger Irrtum: Viele verwechseln die Anzahl der SMs mit der Anzahl der Rechenkerne. Die Kerne sind das Kleinste; SMs sind die organisierende Ebene darüber. Wenn eine GPU als « 16.384-Kern-GPU » beworben wird, sind damit die Einzelkerne innerhalb aller SMs zusammengezählt — nicht die SMs selbst. Beide Zahlen sagen etwas über die Leistung aus, beschreiben aber verschiedene Ebenen der Chip-Architektur.