H100

Die H100 ist ein besonders leistungsfähiger Computerchip der US-Firma Nvidia. Er wurde nicht für Bürorechner gebaut, sondern für die riesigen Rechenzentren, in denen Programme wie ChatGPT entstehen und laufen. Solche Chips heißen Grafikkarten oder GPUs, weil sie ursprünglich für Computerspiele entwickelt wurden. Ihre eigentliche Stärke ist aber, dass sie sehr viele einfache Rechnungen gleichzeitig ausführen können. Genau diese Art von Rechnung braucht moderne künstliche Intelligenz in gewaltiger Menge. Die H100 kam 2022 auf den Markt und wurde für einige Jahre zum wichtigsten Bauteil der gesamten KI-Branche.

Warum ein einzelner Chip zum Politikum wurde

Wer heute ein großes Sprachmodell trainieren will, braucht nicht eine H100, sondern tausende. Ein einzelnes Exemplar kostete zeitweise rund 30.000 Dollar. Ein Rechenzentrum mit 20.000 solcher Chips kostet also allein an Hardware mehrere hundert Millionen Dollar. Deshalb sind die Zahlen, die Nvidia jedes Quartal meldet, für Börsianer ein Fieberthermometer der KI-Branche.

Dazu kommt: Es gab lange Zeit kaum Ersatz. Nvidia hatte einen großen Vorsprung, nicht nur bei der Hardware, sondern auch bei der Software namens CUDA, mit der Programmierer die Chips ansteuern. Wer seine Programme einmal für CUDA geschrieben hat, wechselt nicht leicht zu einem anderen Hersteller. Dieser Effekt heißt Lock-in und ist ein Grund dafür, dass Nvidia zeitweise eines der wertvollsten Unternehmen der Welt wurde.

Auch Regierungen interessieren sich für die H100. Die USA haben den Export solcher Chips nach China stark eingeschränkt, weil sich mit ihnen auch militärisch nutzbare Systeme entwickeln lassen. Dadurch entstand ein Graumarkt mit deutlich überhöhten Preisen. Ein Stück Elektronik von der Größe eines Buchdeckels ist damit zum Gegenstand von Außenpolitik geworden.

Was in der H100 anders ist als in einer Spiele-Grafikkarte

Ein normaler Hauptprozessor arbeitet ein paar Aufgaben nacheinander sehr schnell ab. Die H100 macht das Gegenteil: Sie hat zehntausende kleine Recheneinheiten, die parallel arbeiten. KI-Modelle bestehen im Kern aus Matrixmultiplikationen, also aus dem massenhaften Multiplizieren und Addieren von Zahlentabellen. Für diese eine Aufgabe hat die H100 spezialisierte Bauteile, sogenannte Tensor Cores.

Ein zweiter Trick ist die Genauigkeit der Zahlen. Die H100 kann mit sehr grob gespeicherten Zahlen rechnen, bei denen nur acht Stellen im Speicher belegt werden. Für KI reicht diese Grobheit meist aus, und die Rechnung wird dadurch deutlich schneller. Man kann sich das wie Kopfrechnen mit gerundeten Werten vorstellen: ungenauer, aber für den Zweck schnell genug.

Ein dritter Punkt wird oft unterschätzt: der Speicher. Die H100 hat 80 Gigabyte extrem schnellen Speicher direkt neben dem Rechenkern. Große Modelle passen trotzdem nicht auf einen einzigen Chip. Deshalb werden viele H100 über eine schnelle Direktverbindung namens NVLink zusammengeschaltet und arbeiten wie ein einziger großer Rechner.

H100 in Schlagzeilen und in Produkten

Man kauft keine H100 im Elektronikmarkt. Trotzdem begegnet sie einem täglich indirekt. Jede Antwort eines Chatbots, jedes generierte Bild und jede automatische Übersetzung läuft auf Chips dieser Klasse in einem Rechenzentrum. Anbieter wie Amazon, Microsoft oder Google vermieten Rechenzeit darauf stundenweise.

In Wirtschaftsnachrichten taucht die H100 als Maßeinheit auf. Wenn ein Unternehmen ankündigt, 100.000 GPUs zu beschaffen, sagt das mehr über seine Ambitionen aus als jede Pressemitteilung. Auch Staaten messen ihre KI-Fähigkeit inzwischen in Chipzahlen.

Ein häufiger Irrtum ist, die H100 sei der schnellste Chip der Welt und bleibe es. Nvidia hat längst Nachfolger vorgestellt, etwa die H200 und die Blackwell-Generation. Die H100 verschwindet deswegen nicht, sondern rutscht in günstigere Preisklassen und wird weiter genutzt. Ähnlich wie bei Autos bleibt ein Modell nach dem Modellwechsel jahrelang im Einsatz.