Neural Engine

In einem iPhone oder Mac steckt nicht ein einziger Rechenbaustein, sondern mehrere, die sich die Arbeit teilen. Einer davon heißt bei Apple Neural Engine. Er ist für eine ganz bestimmte Sorte Rechenaufgabe gebaut: für die riesigen Zahlenmultiplikationen, die anfallen, wenn ein Programm ein Gesicht auf einem Foto erkennt oder gesprochene Sprache in Text umwandelt. Der Hauptprozessor eines Geräts kann solche Aufgaben auch lösen, braucht dafür aber mehr Zeit und mehr Strom. Die Neural Engine kann fast nichts anderes, dieses Eine dafür sehr gut. Seit 2017 sitzt sie in jedem iPhone-Chip, und andere Hersteller bauen inzwischen ähnliche Bausteine unter dem Namen NPU ein.

Warum KI dafür einen eigenen Baustein bekommt

Ein Hauptprozessor ist ein Allrounder. Er kann Tabellen berechnen, Webseiten aufbauen, Dateien verwalten. Diese Flexibilität kostet Platz auf dem Chip und Energie im Betrieb. Ein Spezialbaustein verzichtet auf alles, was er nicht braucht, und wird dadurch bei seiner einen Aufgabe deutlich effizienter. Bei KI-Rechnungen liegen die Unterschiede oft beim Zehnfachen oder mehr.

Bei einem Smartphone entscheidet Energieverbrauch über alles. Ein Akku hat wenige Wattstunden, und ein warmer Chip drosselt sich selbst. Nur weil die Neural Engine sparsam arbeitet, kann die Kamera bei jedem Foto im Hintergrund mehrere KI-Schritte durchlaufen lassen, ohne dass der Akku merklich leidet.

Der zweite Grund ist Datenschutz. Wenn die Rechnung auf dem Gerät stattfindet, muss das Foto oder die Sprachaufnahme nicht an einen Server im Internet geschickt werden. Apple bewirbt genau das seit Jahren. Für Nutzer heißt es: manche Funktionen laufen auch im Flugmodus.

Was auf dem Chip tatsächlich passiert

Ein KI-Modell ist im Kern eine sehr lange Kette von Multiplikationen und Additionen. Man nennt sie Matrixmultiplikationen, weil dabei ganze Zahlentabellen miteinander verrechnet werden. Bei einer Bilderkennung sind es Milliarden solcher Rechenschritte pro Foto. Alle Schritte sind gleich aufgebaut, und viele davon lassen sich gleichzeitig ausführen.

Die Neural Engine nutzt genau das aus. Sie besteht aus vielen kleinen, identischen Recheneinheiten, die parallel arbeiten. Man kann sie sich als Fließband vorstellen: statt eines vielseitigen Handwerkers stehen dort hunderte Arbeiter, die alle nur einen Handgriff machen. Solange die Aufgabe zum Handgriff passt, ist das Fließband unschlagbar.

Zusätzlich rechnet die Neural Engine bewusst ungenau. Sie speichert Zahlen gröber, oft mit nur acht oder sechzehn Stellen im Binärsystem statt mit zweiunddreißig. Für KI-Modelle reicht das meist, weil kleine Rundungsfehler das Ergebnis kaum verändern. Wichtig ist die Abgrenzung zum Training: die Neural Engine wendet fertig gelernte Modelle an, sie bringt ihnen nichts Neues bei. Das große Lernen passiert weiter in Rechenzentren auf Grafikkarten.

Von der Foto-App bis zur Chip-Werbung

Im Alltag merkt man die Neural Engine nie direkt, sondern nur an Funktionen. Die Foto-App sortiert Bilder nach Personen und Haustieren. Die Tastatur schlägt das nächste Wort vor. Man kann ein Motiv aus einem Bild freistellen, indem man es antippt. Live-Untertitel und Übersetzungen laufen ohne Verbindung. All das sind Modelle, die auf diesem Baustein rechnen.

In Produktvorstellungen ist die Neural Engine ein Werbeargument. Apple nennt dann Zahlen wie 38 Billionen Rechenoperationen pro Sekunde. Solche Angaben klingen präzise, sind aber schwer zu vergleichen, weil jeder Hersteller anders zählt. Ein häufiger Irrtum ist außerdem, die Neural Engine sei ein eigener Chip. Sie ist ein Bereich innerhalb des Hauptchips, direkt neben Prozessor und Grafikeinheit.

Wirtschaftlich ist der Trend interessant. Qualcomm, Intel und AMD bauen inzwischen ebenfalls solche Einheiten ein und werben mit dem Begriff KI-PC. Dahinter steht die Frage, wo KI künftig rechnet: in teuren Rechenzentren oder auf dem Gerät in der Hand. Je stärker die Bausteine im Gerät werden, desto mehr wandert die Arbeit dorthin. Große Sprachmodelle bleiben allerdings vorerst zu groß für ein Handy.