Neural Accelerator

In jedem Computer steckt ein Hauptprozessor. Er ist ein Allrounder: Er kann Texte verarbeiten, Dateien kopieren, das Betriebssystem steuern. Programme der künstlichen Intelligenz stellen jedoch eine sehr einseitige Anforderung. Sie multiplizieren und addieren gigantische Zahlentabellen, immer wieder, milliardenfach. Ein Neural Accelerator ist ein Chip, der genau diese eine Aufgabe extrem gut kann und sonst fast nichts. Man nennt ihn deshalb auch KI-Beschleuniger oder, wenn er in Handys und Laptops sitzt, NPU für Neural Processing Unit.

Warum Spezialchips die KI-Welle tragen

Ein Allrounder-Prozessor ist bei KI-Rechnungen erstaunlich ineffizient. Er arbeitet Aufgaben eher nacheinander ab und verbringt viel Zeit damit, Zahlen zwischen Speicher und Rechenwerk hin und her zu schieben. Ein Neural Accelerator rechnet stattdessen tausende Werte gleichzeitig. Für dieselbe Aufgabe braucht er oft nur einen Bruchteil der Zeit und der Energie.

Energie ist dabei der entscheidende Punkt. Große Rechenzentren für KI verbrauchen so viel Strom wie kleinere Städte. Jedes eingesparte Watt pro Rechenoperation zählt hier direkt in Geld. Auf der anderen Seite steht das Smartphone: Sein Akku hält nur wenige Stunden. Ohne sparsamen Spezialchip wäre eine Live-Übersetzung oder eine Gesichtserkennung dort kaum möglich.

Wirtschaftlich hat das die Chipbranche umgekrempelt. Firmen, die solche Beschleuniger bauen oder entwerfen, gehören inzwischen zu den wertvollsten Unternehmen der Welt. In Börsennachrichten tauchen sie regelmäßig auf, weil ihre Lieferzeiten darüber entscheiden, wie schnell andere Firmen ihre KI-Produkte starten können.

Matrizen, Zahlenformate und kurze Wege

Das Herzstück ist eine Rechenart namens Matrixmultiplikation. Eine Matrix ist einfach eine Tabelle aus Zahlen. Ein neuronales Netz, also das Rechenmodell hinter moderner KI, besteht im Kern aus solchen Tabellen. Eine Antwort entsteht, indem Eingabewerte Schicht für Schicht mit diesen Tabellen verrechnet werden. Ein Neural Accelerator enthält Gitter aus tausenden winzigen Rechenwerken, die diese Multiplikationen parallel erledigen.

Ein zweiter Trick sind grobe Zahlenformate. Ein normaler Prozessor rechnet sehr genau, mit vielen Nachkommastellen. Für KI reicht oft eine deutlich gröbere Genauigkeit, etwa acht statt zweiunddreißig Stellen im Speicher. Das Ergebnis wird kaum schlechter, der Chip aber viel schneller. Fachleute nennen dieses Vergröbern Quantisierung.

Der dritte Punkt sind kurze Wege. Daten aus dem Hauptspeicher zu holen, kostet mehr Energie als die Rechnung selbst. Neural Accelerators haben deshalb sehr schnellen Speicher direkt neben den Rechenwerken. Man kann es sich wie eine Werkstatt vorstellen, in der das Werkzeug in Griffweite liegt statt im Keller.

Vom Handy-Chip bis zum Rechenzentrum

Wahrscheinlich trägst du bereits einen Neural Accelerator in der Hosentasche. Aktuelle Smartphone-Chips enthalten fast alle eine NPU. Sie sortiert Fotos nach Gesichtern, entfernt Hintergrundrauschen bei Anrufen und lässt Sprachassistenten reagieren, ohne dass Daten ins Internet wandern. Auch neuere Windows-Laptops werben mit einer NPU, oft angepriesen mit dem Etikett KI-PC.

In Rechenzentren dominieren größere Varianten. Grafikkarten waren ursprünglich für Videospiele gedacht, rechnen aber ebenfalls stark parallel und wurden so zum Standardwerkzeug für KI-Training. Daneben gibt es reine KI-Chips wie Googles TPU. Die Grenze zwischen Grafikkarte und Neural Accelerator verschwimmt, weil moderne Grafikkarten eigene Einheiten nur für Matrixrechnungen enthalten.

Ein häufiger Irrtum ist, dass ein solcher Chip von selbst klug sei. Er ist nur eine Rechenmaschine. Ohne trainiertes Modell und passende Software liegt er brach. Umgekehrt gilt: Wenn in Nachrichten von Exportbeschränkungen für KI-Chips oder von Milliardeninvestitionen in Rechenzentren die Rede ist, geht es fast immer um Neural Accelerators.