CUDA

Eine Grafikkarte ist ein Zusatzbauteil im Computer, das ursprünglich nur Bilder für Spiele berechnen sollte. Sie kann sehr viele einfache Rechnungen gleichzeitig ausführen. CUDA ist eine Sammlung von Programmierwerkzeugen der Firma Nvidia. Damit können Entwickler eine Grafikkarte auch für andere Aufgaben einspannen: für Wettersimulationen, für Analysen großer Datenmengen und vor allem für künstliche Intelligenz. Der Name steht für "Compute Unified Device Architecture", im Alltag benutzt aber niemand die Langform.

Warum das wichtig ist

CUDA ist der Grund, warum Nvidia heute einer der wertvollsten Konzerne der Welt ist. Die Plattform kam 2007 heraus, lange bevor der KI-Boom begann. Als Forscher ab 2012 merkten, dass sich KI-Modelle auf Grafikkarten viel schneller trainieren lassen, war CUDA schon fertig und ausgereift. Die gesamte Forschung wuchs also auf Nvidia-Technik auf.

Daraus entstand eine starke Bindung. Wer heute ein KI-Modell trainiert, benutzt Programmbibliotheken, die auf CUDA aufbauen. Diese Bibliotheken laufen nur auf Nvidia-Karten. Konkurrenten wie AMD bauen inzwischen ähnlich schnelle Chips, aber ihre Software ist weniger erprobt. Fachleute nennen so eine Situation einen Burggraben: nicht die Hardware allein schützt den Marktanteil, sondern das gewachsene Software-Umfeld. Genau darum geht es, wenn in Börsennachrichten vom "CUDA-Ökosystem" die Rede ist.

Wie es funktioniert

Ein normaler Hauptprozessor hat wenige, sehr schnelle Recheneinheiten. Eine Grafikkarte hat tausende kleine. Der Vergleich: ein Hauptprozessor ist ein Professor, der komplizierte Aufgaben nacheinander löst. Eine Grafikkarte ist eine Halle mit tausend Schülern, die alle dieselbe einfache Rechnung auf unterschiedlichen Zahlen ausführen.

CUDA gibt Programmierern eine Sprache, um diese Halle zu organisieren. Man schreibt ein kleines Programmstück und legt fest, dass es tausendfach parallel laufen soll. Jede Kopie bekommt eine Nummer und weiß daran, welchen Teil der Daten sie bearbeitet. CUDA regelt außerdem den Transport: Daten müssen aus dem Arbeitsspeicher des Computers in den Speicher der Grafikkarte kopiert werden und danach zurück.

Für KI ist das perfekt geeignet. Ein KI-Modell besteht im Kern aus riesigen Zahlentabellen, die miteinander multipliziert werden. Solche Multiplikationen zerfallen in Millionen unabhängige kleine Rechnungen. Genau das ist Arbeit für tausend parallele Einheiten. Zu CUDA gehören fertige Bibliotheken für diese Standardaufgaben, damit niemand sie neu programmieren muss.

Wo man dem Begriff begegnet

Am häufigsten in Wirtschaftsnachrichten über Nvidia. Analysten begründen den hohen Börsenwert regelmäßig mit CUDA und nicht nur mit den Chips selbst. Auch in Berichten über US-Exportbeschränkungen für KI-Chips nach China taucht der Begriff auf.

Wer selbst mit KI experimentiert, stößt schnell darauf. Beliebte Werkzeuge wie PyTorch verlangen bei der Installation eine passende CUDA-Version. Fehlt sie, rechnet das Programm auf dem Hauptprozessor weiter, nur eben zwanzig- bis fünfzigmal langsamer. In Fehlermeldungen von Bildgeneratoren liest man oft "CUDA out of memory". Das heißt schlicht: der Speicher der Grafikkarte ist voll.

Und in Produktbeschreibungen von Grafikkarten steht die Zahl der "CUDA-Kerne". Das sind die einzelnen Recheneinheiten. Mehr Kerne bedeuten grob mehr Leistung bei parallelen Aufgaben, sind aber allein kein verlässlicher Vergleichswert zwischen verschiedenen Kartengenerationen.