Von-Neumann-Architektur

Die Von-Neumann-Architektur ist der Grundbauplan fast aller Computer: Rechenwerk und Speicher sind getrennt, und im selben Speicher liegen sowohl die Daten als auch das Programm. Weil alles über eine gemeinsame Verbindung laufen muss, entsteht ein Engpass, der bei KI-Anwendungen besonders spürbar wird.

Fast jeder Computer besteht im Kern aus zwei Teilen. Der eine Teil rechnet, der andere merkt sich Dinge. Der rechnende Teil heißt Prozessor, der merkende Teil Speicher. Die Von-Neumann-Architektur ist der Bauplan, der diese beiden Teile trennt und über eine gemeinsame Leitung verbindet. Ihr wichtigster Kniff: Im selben Speicher liegen nicht nur die Zahlen, mit denen gerechnet wird, sondern auch die Arbeitsanweisungen selbst. Benannt ist sie nach dem Mathematiker John von Neumann, der sie 1945 in einem viel gelesenen Bericht beschrieb.

Warum ein Computer damit vielseitig wurde

Vor dieser Idee waren Rechenmaschinen auf eine Aufgabe festgelegt. Wer etwas anderes berechnen wollte, musste Kabel umstecken oder Schalter neu stellen. Das dauerte Stunden oder Tage. Ein Rechner war damit eher ein Spezialwerkzeug als ein Gerät für vieles.

Weil das Programm nun im Speicher liegt wie jede andere Zahl, ändert sich das grundlegend. Man lädt einfach ein anderes Programm, und dieselbe Maschine macht etwas völlig anderes. Genau deshalb kann dein Laptop Videos abspielen, Aufsätze schreiben und Spiele darstellen, ohne dass sich an der Hardware etwas ändert. Diese Vielseitigkeit ist der Grund, warum sich der Bauplan weltweit durchgesetzt hat.

Es gibt noch eine zweite Folge, die weniger offensichtlich ist. Ein Programm kann ein anderes Programm als Daten behandeln, es also verändern oder erzeugen. Darauf beruhen Übersetzerprogramme, die Quelltext in Maschinenbefehle umwandeln. Ohne diese Eigenschaft wäre moderne Softwareentwicklung kaum denkbar.

Der Weg eines einzelnen Befehls

Ein Von-Neumann-Rechner arbeitet in einem immer gleichen Takt. Zuerst holt der Prozessor den nächsten Befehl aus dem Speicher. Dann entschlüsselt er, was der Befehl bedeutet. Anschließend führt er ihn aus und schreibt das Ergebnis zurück. Danach beginnt der Ablauf von vorn, milliardenfach pro Sekunde.

Ein Zähler merkt sich dabei, an welcher Stelle im Speicher der nächste Befehl steht. Sprungbefehle können diesen Zähler verändern. Genau daraus entstehen Schleifen und Verzweigungen, also Wiederholungen und Wenn-dann-Entscheidungen. Mehr braucht ein Computer im Prinzip nicht, um beliebige Programme auszuführen.

Der Haken steckt in der gemeinsamen Leitung zwischen Prozessor und Speicher. Befehle und Daten müssen sich diesen einen Weg teilen. Prozessoren sind über die Jahrzehnte viel schneller geworden als der Speicherzugriff. Dieser Engpass heißt Von-Neumann-Flaschenhals. Als Gegenmittel legt man kleine, sehr schnelle Zwischenspeicher direkt neben den Prozessor, sogenannte Caches.

Was das für KI-Chips bedeutet

Ein KI-Modell besteht aus Milliarden gespeicherter Zahlen, den Parametern. Für jede Antwort müssen viele davon aus dem Speicher geholt werden. Die eigentliche Rechnung ist dabei oft der kleinere Aufwand. Der Flaschenhals entscheidet also mit darüber, wie schnell und wie teuer eine KI-Antwort ist.

Deshalb werben Chiphersteller heute weniger mit Rechenleistung als mit Speicherbandbreite. Grafikkarten für KI nutzen sehr breite Anbindungen und Speicher, der direkt auf dem Chip verbaut ist. Manche Firmen gehen weiter und bauen Chips, bei denen gerechnet wird, wo die Daten liegen. Solche Ansätze bezeichnet man als In-Memory-Computing.

Ein verbreiteter Irrtum ist, dass diese Chips die Von-Neumann-Architektur abgeschafft hätten. Das stimmt nicht. Sie mildern den Engpass ab, folgen aber weiter dem gleichen Grundprinzip. Wer in Börsennachrichten liest, dass Speicherhersteller vom KI-Boom profitieren, sieht diesen alten Bauplan aus dem Jahr 1945 direkt in aktuellen Zahlen wirken.

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.