Unified Memory
Unified Memory bezeichnet einen Aufbau, bei dem Hauptprozessor und Grafikeinheit denselben Arbeitsspeicher benutzen, statt jeweils einen eigenen zu haben. Das spart Kopiervorgänge und erlaubt es, große KI-Modelle auch auf Laptops laufen zu lassen.
In einem Computer gibt es einen Arbeitsspeicher: den Ort, an dem Daten liegen, während gerade mit ihnen gerechnet wird. Klassisch hat der Hauptprozessor seinen eigenen Arbeitsspeicher, und die Grafikeinheit einen zweiten, getrennten. Wer etwas von der einen Recheneinheit zur anderen bringen will, muss die Daten kopieren. Unified Memory schafft diese Trennung ab. Es gibt nur noch einen Speicherbereich, auf den alle Recheneinheiten des Chips direkt zugreifen. Bekannt geworden ist das Prinzip vor allem durch Apples M-Chips, aber auch andere Hersteller bauen inzwischen so.
Warum große Sprachmodelle plötzlich auf Laptops passen
Ein KI-Modell besteht aus vielen Milliarden gespeicherten Zahlen, den sogenannten Parametern. Damit gerechnet werden kann, müssen diese Zahlen im Arbeitsspeicher liegen. Bei getrennten Speichern zählt nur der Speicher der Grafikkarte. Passt das Modell dort nicht hinein, läuft es gar nicht oder extrem langsam.
Genau hier verschiebt Unified Memory die Grenze. Eine typische Grafikkarte für Privatnutzer hat 8 bis 24 Gigabyte eigenen Speicher. Ein Laptop mit vereinheitlichtem Speicher kann 64 oder 128 Gigabyte haben, die vollständig für ein Modell nutzbar sind. Deshalb sind solche Geräte beliebt, wenn jemand ein KI-Modell lokal auf der eigenen Maschine ausführen will, ohne Daten an einen Anbieter zu schicken.
Ein zweiter Vorteil ist die Energie. Jedes Kopieren von Daten kostet Strom und Zeit. Fällt es weg, wird der Rechner effizienter, was besonders bei Geräten mit Akku zählt. Das erklärt einen Teil der langen Laufzeiten moderner Notebooks.
Ein Schreibtisch statt zweier Aktenschränke
Stell dir zwei Kollegen vor, die je einen eigenen Aktenschrank haben. Braucht der eine eine Mappe des anderen, muss sie erst kopiert und herübergetragen werden. Bei Unified Memory teilen sich beide einen großen Tisch. Jeder greift direkt zu, niemand kopiert etwas. Technisch heißt das: Prozessor und Grafikeinheit arbeiten mit denselben Speicheradressen.
Möglich wird das, weil alle Recheneinheiten auf einem einzigen Chip sitzen. Man nennt das ein System-on-a-Chip. Der Speicher wird sehr nah an diesen Chip gesetzt und über sehr breite Datenleitungen angebunden. Die Bandbreite, also die Datenmenge pro Sekunde, liegt dadurch weit über der eines normalen PC-Arbeitsspeichers.
Der Preis dafür ist Unflexibilität. Der Speicher ist fest verlötet und lässt sich nachträglich nicht aufrüsten. Wer beim Kauf zu wenig wählt, muss später das ganze Gerät ersetzen. Außerdem teilen sich alle Aufgaben dieselbe Bandbreite. Rechnen Prozessor und Grafikeinheit gleichzeitig sehr intensiv, können sie sich gegenseitig bremsen. Und schneller als eine große, spezialisierte Rechenkarte im Serverschrank ist ein solcher Chip trotzdem nicht.
Vom MacBook bis zu Nvidias Superchips
Am häufigsten liest man den Begriff in Produktbeschreibungen von Apple. Seit dem M1 im Jahr 2020 wird dort jede Speicherangabe als Unified Memory beworben. Wer ein solches Gerät kauft, entscheidet mit der Speichergröße also gleichzeitig, wie große KI-Modelle darauf laufen können.
Auch in Nachrichten über Rechenzentren taucht das Prinzip auf. Nvidia kombiniert in seinen Grace-Blackwell-Systemen Hauptprozessor und Grafikchips so, dass sie einen gemeinsamen Speicherraum sehen. AMD verfolgt mit seinen MI-Beschleunigern einen ähnlichen Weg. Das Ziel ist überall dasselbe: Modelle, die für einen einzelnen Chip zu groß sind, sollen ohne teure Umwege rechnen können.
Ein häufiger Irrtum ist, Unified Memory sei automatisch schneller Speicher. Der Vorteil liegt zuerst in der gemeinsamen Nutzung, nicht in der Geschwindigkeit an sich. Und es hat nichts mit virtuellem Speicher zu tun, bei dem der Rechner Daten auf die Festplatte auslagert, wenn der Arbeitsspeicher knapp wird. Das bleibt auch bei Unified Memory langsam.