CUDA-Kern

Eine Grafikkarte ist ein Zusatzbauteil im Computer, das ursprünglich für Bilder in Spielen gedacht war. Auf den Karten der Firma Nvidia sitzen Tausende winziger Recheneinheiten, die Nvidia CUDA-Kerne nennt. Jeder einzelne kann nur sehr einfache Aufgaben: zwei Zahlen addieren, zwei Zahlen multiplizieren. Die Stärke liegt in der Menge. Während der Hauptprozessor eines Rechners vielleicht acht kräftige Einheiten hat, bringt eine moderne Grafikkarte über 10.000 dieser kleinen Kerne mit. Sie arbeiten alle gleichzeitig am selben Problem.

Warum Tausende kleine Kerne die KI erst möglich gemacht haben

Ein KI-Modell lernt, indem es riesige Zahlentabellen miteinander verrechnet. Diese Rechnungen sind einzeln simpel, aber es sind unvorstellbar viele. Genau dafür ist der Aufbau einer Grafikkarte ideal. Ein normaler Prozessor würde die Aufgaben nacheinander abarbeiten und Jahre brauchen. Tausende CUDA-Kerne teilen sich die Arbeit auf und schaffen dasselbe in Tagen.

Ein Vergleich macht das anschaulich. Der Hauptprozessor ist wie vier Professoren, die schwierige, unterschiedliche Aufgaben lösen. Die Grafikkarte ist wie zehntausend Schüler, die alle dieselbe einfache Rechenaufgabe mit anderen Zahlen bekommen. Für ein Kreuzworträtsel taugen die Schüler nichts. Für zehntausend Multiplikationen sind sie unschlagbar.

Diese Eigenschaft erklärt auch den wirtschaftlichen Aufstieg von Nvidia. Die Firma baute jahrzehntelang Karten für Computerspiele. Als klar wurde, dass KI dieselbe Art von Rechenleistung braucht, wurde Nvidia zu einem der wertvollsten Unternehmen der Welt. Der CUDA-Kern ist der kleinste Baustein hinter diesem Erfolg.

Wie die Arbeit auf die Kerne verteilt wird

CUDA ist nicht nur ein Bauteil, sondern auch ein Programmiersystem von Nvidia. Ein Programmierer schreibt eine kurze Rechenvorschrift und gibt an, wie oft sie ausgeführt werden soll. Die Grafikkarte verteilt diese Aufgaben dann selbst auf ihre Kerne. Die Kerne sind dabei in Gruppen organisiert und arbeiten im Gleichschritt.

Dieser Gleichschritt ist Stärke und Schwäche zugleich. Alle Kerne einer Gruppe führen im selben Moment denselben Befehl aus, nur mit unterschiedlichen Daten. Sobald ein Programm viele Verzweigungen enthält, also viele Wenn-dann-Entscheidungen, bricht das Tempo ein. Ein Teil der Kerne muss dann warten, bis der andere Teil fertig ist. Deshalb eignen sich Grafikkarten nicht für jede Art von Software.

Ein häufiger Irrtum ist, die Zahl der CUDA-Kerne direkt als Leistungsmaß zu lesen. Zwei Karten mit gleicher Kernzahl können unterschiedlich schnell sein, weil Taktfrequenz und Speicheranbindung mitentscheiden. Oft ist der Speicher sogar der Engpass. Nützen die Kerne nichts, wenn der Nachschub an Zahlen zu langsam kommt. Moderne Karten enthalten zudem Tensor-Kerne, spezialisierte Einheiten allein für die Matrizenrechnung der KI. Diese sind von den CUDA-Kernen zu unterscheiden.

Wo die Kernzahl in Datenblättern und Schlagzeilen auftaucht

Am direktesten begegnet man dem Begriff beim Kauf einer Grafikkarte. Im Datenblatt einer GeForce-Karte steht die Anzahl der CUDA-Kerne als eine der ersten Angaben. Sie dient dort als grobe Orientierung, wie viel Rechenleistung eine Karte innerhalb derselben Baureihe bietet. Zwischen verschiedenen Generationen ist der Vergleich dagegen wenig aussagekräftig.

In Wirtschaftsnachrichten taucht der Begriff auf, wenn es um Rechenzentren geht. Firmen wie OpenAI oder Meta kaufen Zehntausende Nvidia-Karten für ihre KI-Systeme. Auch Exportbeschränkungen für Chips nach China drehen sich um genau diese Rechenleistung. Wer die Schlagzeilen verstehen will, sollte wissen, welches Bauteil dahintersteckt.

Indirekt profitiert jeder davon, der einen Chatbot benutzt. Jede Antwort entsteht auf Servern, deren Grafikkarten die nötigen Rechnungen parallel erledigen. Auch Videoschnitt, Wettervorhersagen und wissenschaftliche Simulationen laufen heute über CUDA. Der Begriff steht damit für weit mehr als nur Computerspiele.