NVLink
NVLink ist eine schnelle Direktverbindung zwischen Grafikchips von Nvidia, über die diese Chips Daten austauschen. Sie ist deutlich schneller als der übliche Steckplatz im Computer und macht aus vielen einzelnen Chips eine gemeinsam rechnende Einheit.
Große KI-Programme werden nicht von einem einzelnen Rechenchip bearbeitet, sondern von hunderten oder tausenden gleichzeitig. Diese Chips müssen ständig Zwischenergebnisse untereinander austauschen. Genau dafür hat die Firma Nvidia eine eigene Kabel- und Steckverbindung entwickelt: NVLink. Sie verbindet Grafikchips direkt miteinander, statt den Umweg über die normalen Steckplätze der Hauptplatine zu nehmen. Der Vorteil ist Geschwindigkeit: Über NVLink fließen pro Sekunde mehrere hundert Gigabyte, also der Inhalt vieler Festplatten. Man kann sich das wie eine private Autobahn zwischen zwei Fabrikhallen vorstellen, während alle anderen die verstopfte Landstraße nehmen.
Warum schnelle Chip-zu-Chip-Leitungen über KI-Leistung entscheiden
Moderne KI-Modelle sind zu groß für einen einzigen Chip. Ihre gelernten Zahlenwerte, die sogenannten Parameter, brauchen mehr Speicher als ein Grafikchip besitzt. Deshalb wird das Modell aufgeteilt: Jeder Chip bekommt ein Stück. Bei jeder Rechnung müssen die Chips ihre Teilergebnisse zusammenlegen.
Ist die Verbindung dabei zu langsam, warten die Chips aufeinander. Sie rechnen dann vielleicht nur die Hälfte der Zeit und stehen sonst still. Genau das nennt man einen Flaschenhals: Nicht die Rechenleistung begrenzt das System, sondern der Datentransport. Rechenzentren kosten Milliarden, deshalb ist jede Minute Leerlauf teuer.
Für Nvidia ist NVLink außerdem ein geschäftlicher Vorteil. Die Technik funktioniert nur mit Nvidia-Hardware. Wer ein ganzes Rechenzentrum darauf aufbaut, kann einzelne Teile nicht einfach durch Chips der Konkurrenz ersetzen. Deshalb arbeiten andere Hersteller an offenen Alternativen, die von mehreren Firmen gemeinsam entwickelt werden.
Vom Kabel zum Schaltverteiler
Im einfachsten Fall verbindet NVLink zwei Chips direkt. Jede Verbindung besteht aus mehreren Leitungspaaren, über die Daten in beide Richtungen gleichzeitig laufen. Ein Chip hat mehrere solcher Anschlüsse, die man bündeln kann. Je mehr Bündel, desto höher die Übertragungsrate.
Bei acht oder mehr Chips wird direktes Verkabeln unpraktisch, weil die Zahl der nötigen Kabel stark ansteigt. Deshalb gibt es den NVSwitch, einen Verteilerchip. Er funktioniert wie ein Bahnknotenpunkt: Jeder Grafikchip hat nur eine Leitung zum Knoten, und der Knoten leitet die Daten zum richtigen Ziel weiter. So kann jeder Chip mit jedem anderen in voller Geschwindigkeit sprechen.
Ein wichtiger Nebeneffekt: Über NVLink darf ein Chip auf den Speicher eines anderen Chips zugreifen, fast als wäre es sein eigener. Für das Programm sieht die Gruppe dann wie ein einziger, sehr großer Rechenchip aus. Zu unterscheiden ist NVLink von InfiniBand oder Ethernet. Diese Netzwerktechniken verbinden ganze Servergehäuse über größere Entfernungen und sind langsamer. NVLink arbeitet innerhalb eines Gehäuses oder eines Serverschranks.
NVLink in Serverschränken und in Quartalszahlen
Direkt begegnet man NVLink kaum, denn die Technik steckt in Rechenzentren. Genutzt wird sie aber bei fast jeder Anfrage an einen großen Chatbot. Auch das Training solcher Modelle läuft über NVLink-verbundene Chipgruppen. In Nvidias Systemen der GB200-Reihe sind auf diese Weise mehrere Dutzend Chips zu einer Einheit zusammengefasst.
In Wirtschaftsnachrichten fällt der Begriff, wenn es um Nvidias Vorsprung geht. Analysten betonen oft, dass Konkurrenten einzelne Chips bauen können, aber nicht so leicht ein komplettes verbundenes System. Achte auf Formulierungen wie NVLink-Domäne: Damit ist die Zahl der Chips gemeint, die zu einer Einheit verschaltet sind.
Ein häufiger Irrtum ist, NVLink sei ein Netzwerkkabel für weite Strecken. Die Reichweite liegt eher im Bereich von Zentimetern bis wenigen Metern. Ein zweiter Irrtum: Mehr NVLink macht ein Modell nicht klüger. Es verkürzt nur die Wartezeiten und senkt damit die Kosten.