Tensor Processing Unit
Eine Tensor Processing Unit (TPU) ist ein von Google entwickelter Spezialchip, der fast nur eine Sorte Rechnung ausführt: das massenhafte Multiplizieren und Addieren von Zahlen in großen Tabellen. Genau diese Rechnung brauchen moderne KI-Systeme ständig, weshalb TPUs sie schneller und stromsparender erledigen als ein normaler Computerchip.
Der Hauptchip in einem Laptop ist ein Allrounder. Er kann Texte anzeigen, Musik abspielen und Programme starten, ist dabei aber in keiner Einzelaufgabe besonders schnell. Eine Tensor Processing Unit geht den umgekehrten Weg: Sie beherrscht fast nur eine Art von Rechnung, diese dafür in gigantischen Mengen. Es geht um das Multiplizieren und Addieren von Zahlen, die in großen Tabellen mit Zeilen und Spalten angeordnet sind. Solche Zahlentabellen nennt man in der Mathematik Tensoren, daher der Name. Google hat diese Chips ab 2015 selbst entwickelt und baut sie bis heute in eigene Rechenzentren ein.
Warum Google eigene Chips baut
Jedes moderne KI-System besteht im Kern aus riesigen Zahlentabellen. Wenn du eine Frage an einen Chatbot stellst, werden deine Wörter in Zahlen umgewandelt und dann durch Milliarden von Multiplikationen geschickt. Ein normaler Hauptprozessor bräuchte dafür extrem lange. Ein Spezialchip, der nichts anderes tut, ist bei gleichem Stromverbrauch ein Vielfaches schneller.
Der zweite Grund ist wirtschaftlich. Der größte Teil aller KI-Chips weltweit kommt derzeit von einem einzigen Hersteller, nämlich Nvidia. Wer dort einkauft, zahlt hohe Preise und wartet oft monatelang auf Lieferung. Google umgeht das, indem es eigene Chips entwerfen lässt und in Auftragsfabriken fertigen lässt. Das senkt die Kosten pro Rechenschritt und macht das Unternehmen unabhängiger.
Der dritte Grund ist Strom. In großen Rechenzentren ist Energie ein Hauptkostenfaktor, nicht nur der Kaufpreis der Hardware. Ein Chip, der dieselbe Rechnung mit weniger Watt erledigt, spart über Jahre gerechnet enorme Summen. Deshalb tauchen TPUs regelmäßig in Diskussionen über den Energiehunger von KI auf.
Die Rechenwerke im Inneren
Das Herzstück einer TPU ist ein Gitter aus sehr vielen kleinen Recheneinheiten. Jede kann nur zwei Zahlen multiplizieren und das Ergebnis zu einer laufenden Summe addieren. Die Zahlen werden durch dieses Gitter geschoben wie Werkstücke durch ein Fließband. Jede Einheit greift sich im Vorbeifließen ihren Wert und gibt ihn weiter. So muss nicht ständig auf den langsamen Speicher zugegriffen werden, was normalerweise der größte Bremsklotz ist.
Ein zweiter Trick ist die Genauigkeit der Zahlen. Ein normaler Prozessor rechnet meist sehr präzise, mit vielen Stellen nach dem Komma. KI-Modelle brauchen diese Präzision kaum: Ob ein Wert 0,7182 oder 0,72 lautet, ändert das Ergebnis fast nie. TPUs rechnen deshalb absichtlich gröber. Dadurch passen mehr Rechenwerke auf denselben Chip, und jede Rechnung geht schneller.
Einzeln ist eine TPU trotzdem zu schwach für große Modelle. Google verbindet daher tausende Chips über eigene Hochgeschwindigkeitsleitungen zu einem sogenannten Pod. Dieser Verbund arbeitet an einem gemeinsamen Trainingslauf und verhält sich für die Software wie ein einziger sehr großer Rechner. Ein häufiger Irrtum ist übrigens, TPUs seien einfach schnellere Grafikkarten. Grafikkarten sind flexibler und für viele Aufgaben nutzbar, TPUs sind stärker auf KI zugeschnitten und dafür weniger vielseitig.
TPUs in Produkten und Börsenmeldungen
Du nutzt TPUs regelmäßig, ohne es zu merken. Die Google-Suche, die Übersetzungsfunktion, die Gesichtserkennung in Google Fotos und die KI-Modelle der Gemini-Reihe laufen zu großen Teilen auf dieser Hardware. Kaufen kann man die Chips nicht. Google vermietet sie stundenweise über seine Cloud-Plattform, sodass auch Forschungsgruppen und Firmen darauf rechnen können.
In Wirtschaftsnachrichten erscheinen TPUs meist im Zusammenhang mit Nvidia. Jede Meldung über eine neue TPU-Generation oder über einen großen Kunden, der von Nvidia zu Google wechselt, bewegt Aktienkurse. Hintergrund ist die Frage, ob Nvidias derzeitige Marktmacht bei KI-Chips dauerhaft ist. Auch Amazon, Microsoft und Meta entwickeln inzwischen eigene KI-Chips aus denselben Motiven.
Für den Alltag am Handy gibt es eine kleine Verwandte: Viele Smartphones enthalten winzige KI-Recheneinheiten, die Fotos verbessern oder Sprache erkennen, ohne Daten ins Internet zu senden. Das Prinzip ist dasselbe, nur im Maßstab von Milliwatt statt Megawatt.