Supercomputer-Cluster
Ein Supercomputer-Cluster ist ein Verbund aus tausenden einzelnen Computern, die über sehr schnelle Kabel verbunden sind und gemeinsam an einer Aufgabe rechnen. Solche Anlagen sind heute die Grundlage für das Training großer KI-Modelle und für aufwendige wissenschaftliche Simulationen.
Ein einzelner Computer hat eine feste Grenze: irgendwann ist er zu langsam für die Aufgabe. Die Lösung besteht darin, viele Computer zusammenzuschalten, damit sie gemeinsam an derselben Aufgabe arbeiten. Genau das ist ein Supercomputer-Cluster: hunderte bis hunderttausende einzelne Rechner, die in Schränken in einer Halle stehen und mit sehr schnellen Kabeln verbunden sind. Nach außen wirken sie wie eine einzige riesige Maschine. Man nennt die einzelnen Rechner darin Knoten. Wer heute von einem Supercomputer spricht, meint fast immer so einen Verbund und nicht mehr eine einzelne große Maschine.
Warum KI-Firmen ganze Hallen füllen
Das Training eines großen Sprachmodells ist eine Rechenaufgabe, die ein normaler Rechner in tausenden Jahren nicht bewältigen würde. Verteilt man dieselbe Arbeit auf 20.000 Chips, schrumpft sie auf Wochen. Genau deshalb ist der Zugang zu Rechenclustern zu einem harten Wettbewerbsfaktor geworden. Firmen wie OpenAI, Google oder Meta bauen oder mieten Anlagen für Milliardenbeträge.
Das erklärt auch, warum Rechencluster ständig in Wirtschaftsnachrichten auftauchen. Wer keine solche Anlage hat, kann bestimmte Modelle einfach nicht bauen, egal wie gute Ideen er hat. Der Chiphersteller Nvidia ist unter anderem deshalb zu einem der wertvollsten Unternehmen der Welt geworden. Auch Staaten investieren, weil sie nicht vollständig von amerikanischen Anbietern abhängig sein wollen.
Ein zweiter Grund ist der Strom. Große Cluster verbrauchen so viel Energie wie eine Kleinstadt, teils über 100 Megawatt. Deshalb entstehen sie dort, wo Strom günstig ist und das Netz die Last trägt. In manchen Regionen sind Stromanschlüsse inzwischen knapper als die Chips selbst.
Vom Knoten zum Verbund
Ein Cluster ist in Ebenen aufgebaut. Unten steht der Knoten, ein Server mit Prozessoren und meist mehreren Grafikchips. Mehrere Knoten stehen in einem Schrank, viele Schränke bilden Reihen in einer Halle. Verbunden wird alles mit einem Netzwerk, das deutlich schneller ist als jedes Heimnetz.
Dieses Netzwerk ist der eigentlich schwierige Teil. Beim Training müssen die Chips ihre Zwischenergebnisse ständig untereinander abgleichen. Ist die Verbindung zu langsam, warten teure Chips auf Daten und stehen still. Man vergleicht das gern mit einer Gruppenarbeit: Wenn alle nur noch Ergebnisse abstimmen, kommt niemand zum Arbeiten. Deshalb kostet die Verkabelung eines Clusters oft einen erheblichen Teil des Gesamtpreises.
Eine Software namens Scheduler verteilt die Aufträge auf die freien Knoten. Sie sorgt dafür, dass sich mehrere Nutzer die Anlage teilen können. Außerdem muss ein Cluster mit Ausfällen umgehen: bei zehntausenden Bauteilen geht täglich etwas kaputt. Trainingsläufe speichern darum regelmäßig Zwischenstände, damit man nach einem Defekt nicht von vorn beginnen muss.
Wo diese Anlagen stehen und wer sie nutzt
Die meisten Menschen nutzen Cluster täglich, ohne es zu merken. Jede Anfrage an einen Chatbot landet in einem Rechenzentrum und wird dort von leistungsstarken Chips beantwortet. Auch Wettervorhersagen, Crashtests am Computer und die Suche nach neuen Medikamenten laufen auf solchen Anlagen.
In Deutschland gehören der Hawk und der Hunter in Stuttgart sowie Anlagen in München und Jülich zu den bekanntesten. Der europäische Rechner Jupiter in Jülich erreicht die Marke von einer Trillion Rechenoperationen pro Sekunde. Universitäten bekommen Rechenzeit auf Antrag zugeteilt, ähnlich wie Fördergeld.
Ein häufiger Irrtum: Ein Cluster macht nicht jedes Programm schneller. Nur Aufgaben, die man in viele parallele Teile zerlegen kann, profitieren davon. Ein Computerspiel läuft auf einem Supercomputer nicht besser als auf einem guten Heim-PC. Deshalb ist die Angabe der reinen Rechenleistung allein wenig aussagekräftig.
