SOCAMM

Jeder Computer braucht einen Arbeitsspeicher. Das ist der schnelle Zwischenspeicher, in dem Daten liegen, während der Rechner mit ihnen arbeitet. In normalen PCs steckt dieser Speicher auf kleinen Platinen, die man herausziehen und austauschen kann. SOCAMM ist eine neue Bauform für solche Steckmodule, entwickelt für die großen Rechner, auf denen künstliche Intelligenz läuft. Die Abkürzung steht für Small Outline Compression Attached Memory Module. Das Besondere: Auf diesen Modulen sitzen Speicherchips, wie man sie sonst aus Smartphones kennt, weil die sehr wenig Strom verbrauchen.

Warum Nvidia eine eigene Speicher-Bauform brauchte

KI-Rechenzentren haben ein Stromproblem. Eine einzelne große Anlage kann so viel Energie verbrauchen wie eine Kleinstadt. Ein spürbarer Teil davon geht nicht in die Rechenchips, sondern in den Arbeitsspeicher. Herkömmliche Server-Speicherriegel sind für Dauerlast gebaut, aber nicht auf Sparsamkeit optimiert. Handy-Speicher ist genau umgekehrt konstruiert, weil dort jeder Milliwatt den Akku belastet.

Bisher gab es allerdings einen Haken. Diesen sparsamen Speicher konnte man nur fest auf die Hauptplatine löten. Geht ein einzelner Chip kaputt, muss man das ganze teure Board tauschen. Auch ein späteres Aufrüsten ist dann unmöglich. Bei Anlagen mit zehntausenden Servern ist das ein echtes Kostenproblem.

SOCAMM löst genau diesen Zielkonflikt. Der Speicher bleibt sparsam, sitzt aber wieder auf einem austauschbaren Modul. Nvidia gibt an, dass die Module deutlich weniger Strom ziehen als klassische Server-Riegel. Für Speicherhersteller wie Samsung, SK Hynix und Micron ist das ein wichtiger neuer Markt, weil sie ihre Handy-Chiptechnik nun auch in Rechenzentren verkaufen können.

Der Aufbau des Moduls

Ein SOCAMM-Modul ist ungefähr so groß wie eine Streichholzschachtel. Darauf sind mehrere Speicherchips vom Typ LPDDR montiert. Das L steht für low power, also niedriger Stromverbrauch. Diese Chipsorte steckt heute in fast jedem Smartphone.

Angeschlossen wird das Modul nicht über eine lange Kontaktleiste am Rand, wie beim PC-Speicherriegel. Stattdessen liegt es flach und wird mit drei Schrauben auf der Platine befestigt. Dadurch baut es sehr niedrig, was in dicht gepackten Servergehäusen zählt. Über die kurzen Verbindungswege lassen sich außerdem hohe Datenraten erreichen. Die zweite Generation, SOCAMM2, soll die Übertragungsgeschwindigkeit noch einmal deutlich erhöhen.

Wichtig ist die Abgrenzung zu HBM. Das ist ein anderer Speichertyp, der direkt neben dem Rechenchip sitzt und noch viel schneller ist, aber auch extrem teuer. HBM übernimmt die zeitkritischen Rechendaten. SOCAMM ist dagegen der große, günstigere Hauptspeicher daneben. Beide Typen ersetzen sich also nicht, sondern arbeiten in derselben Maschine nebeneinander.

SOCAMM in Nvidias Produktlinie und in den Börsennachrichten

Im Alltag wird man ein SOCAMM-Modul kaum je in der Hand halten. Es steckt in Serverschränken, die in Rechenzentren stehen. Verbaut wird es unter anderem in Nvidias Systemen der Grace-Blackwell-Familie, also den Plattformen, auf denen große Sprachmodelle trainiert werden. Auch der kleine Entwicklerrechner DGX Spark nutzt diese Bauweise.

In Wirtschaftsnachrichten taucht der Begriff trotzdem regelmäßig auf. Meldungen über Liefervereinbarungen zwischen Nvidia und Speicherherstellern bewegen deren Aktienkurse. Für Samsung, SK Hynix und Micron geht es um Aufträge in Milliardenhöhe. Wer solche Meldungen liest, sollte wissen, dass hinter dem sperrigen Kürzel schlicht ein Speicherriegel steht.

Ein häufiger Irrtum ist, SOCAMM mache Computer schneller. Der eigentliche Gewinn liegt bei Energieverbrauch, Bauhöhe und Wartbarkeit. Ob sich die Bauform langfristig als Standard durchsetzt, ist offen. Bisher treibt vor allem ein einzelner Hersteller sie voran, und offizielle Branchenstandards für Server-Speicher entstehen normalerweise in Gremien mit vielen Beteiligten.