NPU

In jedem Computer gibt es einen Hauptprozessor. Er ist ein Allrounder und kann fast jede Rechenaufgabe übernehmen, dafür keine besonders gut. Deshalb baut man zusätzlich Spezialbausteine ein, die nur eine Sorte Aufgabe erledigen, diese aber sehr schnell. Eine NPU ist so ein Spezialbaustein, und zwar für Programme, die aus Beispielen gelernt haben – also für künstliche Intelligenz. Die Abkürzung steht für Neural Processing Unit, zu deutsch etwa « Einheit zur Verarbeitung neuronaler Netze ». Ein neuronales Netz ist dabei ein Rechenmodell, das aus vielen einfachen Rechenschritten in Schichten besteht, ähnlich lose an das Gehirn angelehnt.

Warum KI eigenen Chip-Platz bekommt

KI-Programme rechnen anders als eine Tabellenkalkulation. Sie multiplizieren riesige Zahlenlisten miteinander und addieren die Ergebnisse – millionenfach, immer nach demselben Schema. Ein Allround-Prozessor arbeitet solche Aufgaben eher nacheinander ab. Genau dafür braucht er lange und verbraucht viel Strom.

Bei einem Handy ist das ein echtes Problem. Der Akku ist klein, und ein heißer Chip drosselt sich selbst. Eine NPU erledigt dieselbe Aufgabe mit einem Bruchteil der Energie. Hersteller geben oft an, dass ihre NPU KI-Aufgaben bei gleichem Stromverbrauch zehnmal oder mehr schneller schafft als der Hauptprozessor.

Dazu kommt ein zweiter Grund: Datenschutz. Wenn die NPU stark genug ist, muss ein Sprachbefehl oder ein Foto nicht mehr an einen Server im Internet geschickt werden. Die Rechnung passiert direkt im Gerät. Das nennt man On-Device-KI, und es ist einer der wichtigsten Verkaufsargumente für NPUs.

Was in einer NPU anders verschaltet ist

Eine NPU besteht aus sehr vielen kleinen Recheneinheiten, die parallel arbeiten. Jede kann nur wenig: multiplizieren, addieren, das Ergebnis weitergeben. Aber sie tun es alle gleichzeitig. Man kann sich das wie eine Fabrikhalle mit tausend Arbeitsplätzen vorstellen, an denen derselbe Handgriff wieder und wieder ausgeführt wird.

Ein zweiter Trick ist die Genauigkeit der Zahlen. Ein normaler Prozessor rechnet mit sehr präzisen Zahlen, oft mit 32 Stellen im Binärformat. KI-Modelle kommen meist auch mit 8 Stellen aus, manchmal mit noch weniger. Das Verkleinern der Zahlen heißt Quantisierung. Kleinere Zahlen bedeuten weniger Speicherbedarf und mehr Rechnungen pro Sekunde.

Wichtig ist eine Abgrenzung: NPUs trainieren KI-Modelle in der Regel nicht. Trainieren heißt, ein Modell aus Beispielen lernen zu lassen, und das passiert in großen Rechenzentren auf Grafikchips. Die NPU übernimmt nur das Benutzen des fertigen Modells. Ein häufiger Irrtum ist außerdem, dass die NPU-Leistung allein über die KI-Fähigkeiten eines Geräts entscheidet. Oft bremst der Arbeitsspeicher stärker als der Chip.

NPUs in Handys, Laptops und Werbeprospekten

In fast jedem neuen Smartphone sitzt eine NPU, auch wenn sie unterschiedlich heißt. Apple nennt sie Neural Engine, Google spricht vom Tensor-Chip, Qualcomm von einer Hexagon-NPU. Sie arbeitet, wenn das Handy Gesichter in Fotos erkennt, Hintergrundgeräusche in Telefonaten wegfiltert oder gesprochene Sprache in Text umwandelt.

Seit 2024 taucht der Begriff auch im PC-Markt auf. Microsoft hat für die Bezeichnung « Copilot+ PC » eine Mindestleistung der NPU festgelegt: 40 TOPS, also 40 Billionen Rechenoperationen pro Sekunde. Diese Zahl steht seither auf vielen Laptop-Datenblättern. Sie ist allerdings ein grober Vergleichswert und sagt nur wenig darüber, wie schnell ein bestimmtes Programm tatsächlich läuft.

In Wirtschaftsnachrichten begegnet dir der Begriff meist im Zusammenhang mit Chipherstellern. Wenn Apple, Qualcomm oder Intel neue Prozessoren vorstellen, ist die NPU-Leistung inzwischen die Kennzahl, die zuerst genannt wird. Für Anleger ist sie interessant, weil sie zeigt, wie viel KI-Rechenarbeit künftig in Geräten statt in Rechenzentren passiert.