GPU
Eine GPU ist ein spezieller Prozessor, der ursprünglich für die Darstellung von Grafik entwickelt wurde und heute das wichtigste Werkzeug zum Trainieren und Betreiben von KI-Modellen ist. Ohne GPUs wäre der aktuelle KI-Boom technisch nicht möglich gewesen.
Ein Prozessor — das « Gehirn » eines Computers — erledigt Aufgaben nacheinander: Schritt für Schritt, sehr schnell. Eine GPU, kurz für Graphics Processing Unit (auf Deutsch: Grafikprozessor), arbeitet anders. Sie hat nicht einen schnellen Kern, sondern Tausende kleinere, die gleichzeitig rechnen. Ursprünglich war das für Videospiele gedacht: Ein Bildschirm zeigt Millionen von Bildpunkten, und alle müssen gleichzeitig berechnet werden. Heute nutzt man diese Eigenschaft vor allem für KI. Das Training eines großen Sprachmodells — also das Lernen aus riesigen Textmengen — besteht aus Milliarden von Rechenoperationen, die sich gut aufteilen lassen. Die GPU erledigt sie parallel, was Wochen statt Jahre bedeutet.
Warum die GPU den KI-Durchbruch erst möglich gemacht hat
Vor etwa zwölf Jahren versuchten Forscher, neuronale Netze — also lernende Systeme, die grob dem menschlichen Gehirn nachempfunden sind — auf herkömmlichen Prozessoren zu trainieren. Das dauerte zu lang, die Modelle blieben klein. 2012 zeigte ein Team der Universität Toronto, dass dasselbe Modell auf GPUs trainiert in Tagen fertig war statt in Monaten. Dieser Moment gilt als Startschuss des modernen KI-Zeitalters.
Seitdem hat sich der Bedarf an GPUs vervielfacht. Große Modelle wie GPT-4 wurden auf Clustern aus Zehntausenden von GPUs trainiert. Die Firma Nvidia, die Marktführerin bei KI-tauglichen GPUs, hat ihren Börsenwert in wenigen Jahren von rund 300 Milliarden auf über 3 Billionen US-Dollar gesteigert — ein direktes Abbild davon, wie zentral diese Chips geworden sind.
Warum Parallelrechnen für KI so gut passt
Das Herzstück des KI-Trainings ist eine Rechenoperation namens Matrizenmultiplikation. Dabei werden große Tabellen mit Zahlen miteinander verrechnet. Diese Tabellen lassen sich in viele kleine Teilaufgaben zerlegen, die voneinander unabhängig sind. Eine GPU mit Tausenden Kernen erledigt diese Teilaufgaben gleichzeitig — ein herkömmlicher Prozessor würde sie einzeln abarbeiten.
Nvidias GPUs für den KI-Markt — etwa die H100- oder B200-Reihe — sind außerdem mit sehr schnellem Speicher ausgestattet, weil die Daten schnell genug geliefert werden müssen, damit die Kerne nicht auf sie warten. Eine einzelne solche GPU kostet zwischen 25.000 und 40.000 US-Dollar. Wer viele davon betreibt, spricht von einem Rechenzentrum oder GPU-Cluster. Die großen KI-Labore wie OpenAI, Google DeepMind oder Anthropic betreiben solche Cluster mit Zehntausenden Einheiten.
Es gibt einen wichtigen Unterschied zwischen Training und Betrieb: Beim Training lernt das Modell und braucht sehr viele GPUs gleichzeitig. Beim Betrieb — also wenn jemand eine Frage stellt und eine Antwort bekommt — reichen oft weniger Chips. Dieser zweite Schritt heißt Inferenz und bestimmt, wie teuer jede einzelne Antwort für den Anbieter ist.
GPUs in Nachrichten und Alltag
In Wirtschaftsnachrichten tauchen GPUs oft im Zusammenhang mit Exportkontrollen auf. Die US-Regierung hat seit 2022 verboten, bestimmte Hochleistungs-GPUs nach China zu liefern — aus der Sorge, diese könnten für militärische KI-Systeme genutzt werden. Nvidia musste daraufhin abgespeckte Varianten seiner Chips entwickeln, die diese Regeln einhalten.
Im Alltag steckt eine GPU in fast jedem Laptop und Smartphone — dort ist sie meist für Videoabspielen oder Spiele zuständig, nicht für KI-Training. Wenn Dienste wie ChatGPT, Midjourney oder Google Gemini genutzt werden, läuft die eigentliche Berechnung auf GPUs in Rechenzentren weit entfernt. Das eigene Gerät schickt nur die Anfrage und empfängt die Antwort.
Ein häufiger Irrtum: Viele denken, eine bessere GPU im eigenen Computer würde KI-Modelle klüger machen. Tatsächlich beeinflusst die eigene Hardware nur, wie schnell das Modell antwortet, wenn es lokal läuft — also direkt auf dem eigenen Rechner, ohne Internetverbindung. Die Fähigkeiten des Modells sind durch das Training festgelegt, das lange vorher auf riesigen Clustern stattgefunden hat.
