GPU

In jedem Computer steckt ein Hauptprozessor. Er arbeitet Aufgaben sehr schnell hintereinander ab, aber immer nur wenige gleichzeitig. Eine GPU ist ein zweiter, ganz anders gebauter Chip. Sie besteht aus tausenden kleinen Rechenwerken, die alle im selben Moment arbeiten. Jedes einzelne davon ist langsam und kann nur simple Aufgaben. Zusammen schaffen sie aber gewaltige Mengen einfacher Rechnungen. Die Abkürzung steht für Graphics Processing Unit, also Grafikprozessor.

Warum GPUs zum Nadelöhr der KI-Branche wurden

KI-Systeme rechnen im Kern fast nur mit Zahlenlisten und Zahlentabellen. Millionen solcher Werte werden multipliziert und addiert. Diese Rechnungen hängen kaum voneinander ab, man kann sie also gleichzeitig erledigen. Genau dafür ist eine GPU gebaut. Auf einem Hauptprozessor würde das Training eines großen Sprachmodells Jahrzehnte dauern. Auf tausenden GPUs dauert es Wochen.

Daraus ist ein wirtschaftlicher Engpass geworden. Der US-Hersteller Nvidia dominiert diesen Markt und wurde dadurch zu einem der wertvollsten Unternehmen der Welt. Einzelne Spezialkarten für Rechenzentren kosten je nach Modell zwischen 20.000 und 40.000 Dollar. Große KI-Firmen kaufen davon zehntausende Stück. Wer keine bekommt, kann bei der Entwicklung großer Modelle nicht mitspielen.

Deshalb sind GPUs auch politisch wichtig. Die USA verbieten den Export ihrer schnellsten KI-Chips nach China. Rechenleistung wird damit behandelt wie ein strategischer Rohstoff. Meldungen über Lieferzeiten, Exportregeln oder neue Chipgenerationen bewegen regelmäßig die Börsen.

Viele langsame Rechenwerke statt weniger schneller

Der Unterschied lässt sich mit zwei Arbeitsweisen vergleichen. Ein Hauptprozessor ist wie ein einzelner sehr erfahrener Handwerker. Er löst auch komplizierte Aufgaben, aber eben eine nach der anderen. Eine GPU ist wie eine Halle mit tausend Hilfskräften, die alle dieselbe simple Handbewegung ausführen. Für tausend gleichartige Teile ist die Halle unschlagbar. Für eine einzige knifflige Reparatur ist sie nutzlos.

Damit das funktioniert, muss die Arbeit teilbar sein. Bei Bildern ist das offensichtlich: jeder Bildpunkt wird unabhängig berechnet. Bei KI-Modellen gilt dasselbe für die vielen Multiplikationen einer Zahlentabelle. Aufgaben, bei denen jeder Schritt auf das Ergebnis des vorherigen wartet, bringen dagegen keinen Vorteil.

Ein zweiter Punkt ist der Speicher. Eine GPU hat eigenen, sehr schneller angebundenen Speicher direkt auf der Karte. Er ist aber begrenzt, oft 80 bis 192 Gigabyte pro Chip. Ein großes Modell passt deshalb nicht auf eine einzelne GPU. Man verteilt es über viele Karten, die über schnelle Verbindungen zusammenarbeiten. Häufig ist nicht die Rechenleistung der Flaschenhals, sondern das Nachladen der Daten in den Speicher.

Von der Spielekonsole bis zum Rechenzentrum

Die erste GPU im Leben der meisten Menschen steckt in einem Spielgerät. In Konsolen, Gaming-PCs und auch in jedem Smartphone berechnet ein Grafikprozessor die Bilder auf dem Display. Diese Chips sind kleiner und sparsamer als die Varianten für Rechenzentren, funktionieren aber nach demselben Prinzip. Auch Videoschnitt, 3D-Programme und Bildbearbeitung nutzen sie.

Wer selbst mit KI arbeitet, mietet GPUs meist statt sie zu kaufen. Cloud-Anbieter vermieten Rechenzeit pro Stunde, oft für wenige Euro bei kleinen Karten. Beim Chatten mit einem KI-Assistenten läuft im Hintergrund ebenfalls eine GPU in einem Rechenzentrum. Man merkt davon nur die Wartezeit von einer Sekunde.

In Nachrichten tauchen daneben verwandte Begriffe auf. TPUs von Google und andere KI-Beschleuniger sind noch stärker auf KI-Rechnungen zugeschnitten und können weniger Verschiedenes. Ein häufiger Irrtum ist, dass eine GPU allein schnell sei. Ihr Vorteil entsteht nur bei Aufgaben, die sich in viele gleichartige Teile zerlegen lassen.