NVL72

NVL72 ist ein fertig zusammengebauter Serverschrank der Firma Nvidia. Ein Serverschrank ist ein mannshoher Metallrahmen, in den Computerteile eingeschoben werden. In diesem Schrank stecken 72 besonders leistungsfähige Rechenchips, sogenannte Grafikprozessoren oder kurz GPUs. Diese Chips waren ursprünglich für Computerspiele gedacht, weil sie sehr viele einfache Rechnungen gleichzeitig erledigen können. Genau das braucht auch künstliche Intelligenz. Das Besondere am NVL72 ist nicht die Anzahl der Chips, sondern die Art ihrer Verbindung: Sie sind so eng gekoppelt, dass Programme sie wie einen einzigen sehr großen Prozessor ansprechen können. Die Zahl 72 im Namen steht schlicht für die Zahl der verbauten GPUs.

Warum ein ganzer Schrank als ein Chip zählt

Große Sprachmodelle passen längst nicht mehr in den Speicher eines einzelnen Chips. Man muss sie deshalb in Stücke zerlegen und auf viele Chips verteilen. Dabei entsteht ein Problem: Die Chips müssen ständig Zwischenergebnisse austauschen. Ist diese Verbindung langsam, warten die teuren Prozessoren die meiste Zeit auf Daten. Der Nutzen zusätzlicher Chips verpufft dann fast vollständig.

Der NVL72 löst genau dieses Problem. Alle 72 Chips hängen an einem gemeinsamen, extrem schnellen Verbindungsnetz. Für die Software sieht das aus wie ein Prozessor mit riesigem Speicher. Nvidia spricht deshalb von einem Rechenschrank, der sich wie eine einzige GPU verhält. Das ist Marketing, trifft die Sache technisch aber ganz gut.

Wirtschaftlich ist das Ding aus einem weiteren Grund wichtig. Nvidia verkauft nicht mehr nur einzelne Chips, sondern komplette Schränke zu Preisen im Millionenbereich. Wer über KI-Investitionen in den Nachrichten liest, liest indirekt oft über solche Systeme. Betreiber wie Microsoft, Amazon oder Meta bestellen sie in großen Stückzahlen.

Was im Schrank steckt

Im NVL72 sitzen 72 GPUs der Blackwell-Generation zusammen mit 36 Hauptprozessoren vom Typ Grace. Hauptprozessoren übernehmen die Steuerung und alles, was nicht massenhaft parallel läuft. Je zwei GPUs teilen sich einen solchen Steuerchip. Verbaut sind sie in flachen Einschüben, die übereinander im Schrank stecken.

Die Verbindung heißt NVLink. Man kann sie sich als extrem breite Datenautobahn zwischen den Chips vorstellen. Zwischen allen Chips im Schrank fließen dabei Daten in einer Größenordnung von mehreren Terabyte pro Sekunde. Zum Vergleich: Ein sehr schneller Heimanschluss schafft etwa ein Tausendstel Gigabyte pro Sekunde. Der Unterschied liegt also bei mehreren Millionen.

Ein solcher Schrank verbraucht rund 120 Kilowatt Strom. Das entspricht dem Verbrauch von etwa dreißig Einfamilienhäusern. Luftkühlung reicht dafür nicht mehr aus, deshalb fließt Kühlflüssigkeit direkt durch die Einschübe. Viele ältere Rechenzentren können solche Schränke gar nicht aufstellen, weil ihnen Stromanschluss und Kühlkreislauf fehlen. Das ist einer der Gründe, warum gerade überall neue Rechenzentren gebaut werden.

NVL72 in Quartalszahlen und Chatfenstern

Direkt sehen wird man einen NVL72 fast nie. Die Schränke stehen in gesicherten Rechenzentren, oft in Hallen mit hunderten baugleichen Einheiten. Wer aber einen KI-Chatbot benutzt, dessen Anfrage landet mit hoher Wahrscheinlichkeit auf solcher Hardware. Auch beim Training neuer Modelle werden viele dieser Schränke zu einem einzigen Verbund zusammengeschaltet.

In den Wirtschaftsnachrichten taucht der Name regelmäßig auf. Analysten schätzen, wie viele NVL72-Systeme Nvidia pro Quartal ausliefert, und leiten daraus Umsätze ab. Ein häufiger Irrtum ist dabei, die Systeme mit gewöhnlichen Servern zu vergleichen. Ein NVL72 kostet ungefähr so viel wie eine Eigentumswohnung und ersetzt eine kleine Serverhalle.

Nachfolger sind bereits angekündigt, etwa Varianten mit neueren Chips unter Namen wie GB300 NVL72. Die Grundidee bleibt gleich: möglichst viele Chips möglichst eng verbinden. Der Begriff NVL72 steht deshalb inzwischen weniger für ein einzelnes Produkt als für eine Bauweise moderner KI-Rechenzentren.