Colossus-2-Cluster

Colossus 2 ist eine riesige Rechenanlage des Unternehmens xAI, das zu Elon Musk gehört. Sie steht in der Stadt Memphis im US-Bundesstaat Tennessee. In solchen Anlagen bringt man sehr viele Computer in Hallen unter und verbindet sie zu einer einzigen großen Maschine. Fachleute nennen so einen Verbund einen Cluster. Colossus 2 ist der Nachfolger der ersten Anlage Colossus, die xAI 2024 in derselben Stadt gebaut hat. Ihre Aufgabe ist es, die KI-Modelle der Firma zu trainieren, also aus riesigen Textmengen lernen zu lassen.

Warum eine einzelne Halle über den Vorsprung entscheidet

Moderne Sprachmodelle werden nicht klüger, weil jemand ihnen bessere Regeln beibringt. Sie werden vor allem klüger, weil man mehr Rechenleistung und mehr Daten hineinsteckt. Diese Beobachtung nennt man Skalierungsgesetz. Wer also die größte Rechenanlage besitzt, kann in der gleichen Zeit ein stärkeres Modell trainieren als die Konkurrenz.

Deshalb ist Colossus 2 auch ein wirtschaftliches Signal. Anlagen dieser Größe kosten mehrere Milliarden Dollar, vor allem wegen der Chips. xAI kaufte damit Anschluss an Konkurrenten wie OpenAI, Google und Anthropic, die ähnliche Anlagen betreiben. Für Investoren ist die Zahl der Chips eine der wenigen greifbaren Kennzahlen im KI-Wettlauf.

Der zweite Grund für die Aufmerksamkeit ist der Strom. Colossus 2 braucht dauerhaft Leistung im Bereich mehrerer hundert Megawatt, das entspricht dem Verbrauch einer mittelgroßen Stadt. xAI stellte deshalb Gasturbinen auf das Gelände, weil das öffentliche Netz nicht schnell genug lieferte. Anwohner und Umweltverbände in Memphis klagten über die Abgase, und daraus wurde ein Rechtsstreit. KI-Rechenzentren sind damit zu einem Thema der Energie- und Umweltpolitik geworden.

Was in den Hallen von Memphis steht

Die eigentliche Rechenarbeit machen Grafikprozessoren, kurz GPUs. Das sind Chips, die ursprünglich für Computerspiele entwickelt wurden und sehr viele einfache Rechnungen gleichzeitig erledigen. Genau das braucht ein KI-Modell. In Colossus 2 stecken Chips des Herstellers Nvidia, angekündigt wurde ein Ausbau in Richtung einer Million GPUs. Jeweils acht davon sitzen in einem flachen Gehäuse, mehrere Gehäuse stehen in einem Schrank, ein Schrank heißt Rack.

Entscheidend ist die Verkabelung. Alle Chips arbeiten an demselben Modell und müssen ihre Zwischenergebnisse ständig austauschen. Dafür nutzt man extrem schnelle Netzwerke, bei denen jeder Chip mit vielen anderen direkt verbunden ist. Ist dieses Netz zu langsam, warten teure Chips nur auf Daten. Man kann es sich wie eine Großbaustelle vorstellen: Tausend Arbeiter helfen nur dann, wenn Material und Absprachen schnell genug fließen.

Dazu kommt die Kühlung. Jeder Chip gibt seine Energie fast vollständig als Wärme ab. Luftkühlung reicht bei dieser Dichte nicht mehr aus, deshalb läuft Kühlflüssigkeit direkt an den Chips vorbei. Ein häufiger Irrtum ist, dass so eine Anlage ständig Antworten für Nutzer berechnet. Das Training ist der Hauptzweck; das Beantworten einzelner Anfragen, die sogenannte Inferenz, läuft oft auf anderen Rechnern.

Colossus 2 in Schlagzeilen und in der eigenen Chat-App

Am häufigsten liest man den Namen in Wirtschaftsnachrichten. Meldungen über neue Finanzierungsrunden von xAI, über Großbestellungen bei Nvidia oder über Genehmigungen in Memphis nennen die Anlage fast immer. Auch die Aktienkurse von Chipherstellern und Energieversorgern reagieren auf solche Nachrichten.

Indirekt begegnet man Colossus 2 bei jeder Nutzung des Chatbots Grok, der in der Plattform X eingebaut ist. Die Fähigkeiten dieses Modells stammen aus dem Training in diesen Hallen. Wenn eine neue Grok-Version erscheint, ist die Rechenanlage der Grund dafür, dass sie mehr kann als die vorherige.

Sinnvoll ist die Abgrenzung zu einem normalen Rechenzentrum, etwa dem eines Cloud-Anbieters. Dort laufen tausende voneinander unabhängige Programme für viele Kunden. Ein Trainingscluster wie Colossus 2 verhält sich dagegen wie ein einziger, sehr großer Computer mit einer einzigen Aufgabe.