CUDA-Kerne

Eine Grafikkarte ist ein eigener Rechenbaustein im Computer, der ursprünglich für Bilder in Spielen gedacht war. In ihr stecken tausende winzige Rechenwerke, die alle zur gleichen Zeit arbeiten. Bei Karten der Firma Nvidia heißen diese Rechenwerke CUDA-Kerne. Jeder einzelne davon kann nur sehr einfache Dinge: zwei Zahlen addieren, zwei Zahlen multiplizieren. Seine Stärke liegt nicht im Können, sondern in der Menge. Eine aktuelle Spielergrafikkarte hat zwischen 4.000 und 20.000 solcher Kerne. Der Name CUDA stammt von der Software-Plattform, mit der Nvidia diese Kerne für Programmierer zugänglich macht.

Warum Grafikkarten die KI-Branche antreiben

Der normale Hauptprozessor eines Computers, die CPU, hat meist zwischen 8 und 32 Kerne. Diese Kerne sind einzeln sehr schnell und sehr flexibel. Sie können komplizierte Entscheidungen treffen und Programme mit vielen Verzweigungen abarbeiten. Für Aufgaben, bei denen ein Schritt auf den nächsten folgt, ist die CPU unschlagbar.

Beim Training und Betrieb von KI-Modellen sieht die Arbeit aber ganz anders aus. Dort werden riesige Zahlentabellen miteinander multipliziert, Millionen Mal hintereinander. Die einzelnen Rechnungen hängen nicht voneinander ab. Sie können deshalb alle gleichzeitig ausgeführt werden. Genau dafür ist eine Wand aus tausenden CUDA-Kernen ideal.

Deshalb ist Nvidia in wenigen Jahren zu einem der wertvollsten Unternehmen der Welt geworden. Der Vorsprung liegt nicht nur an der Hardware. Weil fast alle KI-Programme über Jahre für CUDA geschrieben wurden, ist ein Wechsel zu Chips anderer Hersteller aufwendig. Diese Bindung an eine Plattform nennt man Lock-in-Effekt.

Tausend Rechner für dieselbe Aufgabe

Eine Analogie hilft. Die CPU ist ein einzelner Professor, der ein schwieriges Problem in vielen Schritten löst. Die Grafikkarte ist eine Halle mit tausend Schülern, die alle nur Grundrechenarten beherrschen. Für eine knifflige Beweisführung ist der Professor besser. Für zehn Millionen einfache Multiplikationen ist die Halle um ein Vielfaches schneller.

Technisch arbeiten die CUDA-Kerne in festen Gruppen. Alle Kerne einer Gruppe führen im selben Takt denselben Befehl aus, nur auf unterschiedlichen Daten. Dieses Prinzip heißt SIMD, also ein Befehl auf viele Daten gleichzeitig. Es erklärt auch die Schwäche der Bauweise: Sobald ein Programm viele Wenn-dann-Verzweigungen enthält, müssen Teile der Gruppe warten. Die Rechenleistung verpufft.

Wichtig ist eine Abgrenzung, die in Datenblättern oft untergeht. Neben den CUDA-Kernen sitzen auf modernen Nvidia-Karten sogenannte Tensor-Kerne. Diese sind Spezialisten für genau eine Aufgabe: die Multiplikation kleiner Zahlenblöcke, wie sie in KI-Modellen ständig vorkommt. Der Großteil der KI-Rechenleistung stammt heute von den Tensor-Kernen, nicht von den CUDA-Kernen. Die Zahl der CUDA-Kerne ist also kein zuverlässiger Maßstab für KI-Tempo.

Von Datenblättern bis zum Rechenzentrum

Am häufigsten begegnet dir die Zahl beim Kauf einer Grafikkarte. Dort steht sie neben Speichergröße und Taktrate im Datenblatt. Ein typischer Irrtum ist, die Werte verschiedener Hersteller direkt zu vergleichen. AMD nennt seine Rechenwerke Stream-Prozessoren, bei Intel heißen sie anders. Die Zahlen sind nicht gleichwertig, weil die Kerne unterschiedlich aufgebaut sind.

In Wirtschaftsnachrichten taucht der Begriff auf, wenn es um Rechenzentren geht. Große KI-Anbieter kaufen Zehntausende Spezialkarten wie die Nvidia H100 oder B200. Auch Exportbeschränkungen der USA gegenüber China drehen sich um solche Chips. Wenn dort von Rechenleistung die Rede ist, steckt fast immer diese Parallelbauweise dahinter.

Und schließlich merkst du die Kerne, ohne sie zu sehen. Jedes flüssig dargestellte Spielbild, jedes gerenderte Video und jede Antwort eines Chatbots entsteht auf solcher Hardware. Nur der Weg dorthin ist inzwischen ein anderer als beim Rendern von Spielgrafik.