TOPS

TOPS ist eine Maßeinheit für Rechengeschwindigkeit. Die Abkürzung steht für „Tera Operations Per Second“, also Billionen Rechenschritte pro Sekunde. Ein Chip mit 40 TOPS führt demnach 40 Billionen einfache Rechenoperationen in einer Sekunde aus. Gemeint sind dabei sehr simple Schritte, vor allem Multiplikationen und Additionen von Zahlen. Genau solche Schritte braucht ein KI-Programm in riesiger Menge, wenn es ein Bild erkennt oder einen Satz erzeugt. Hersteller von Prozessoren nutzen TOPS deshalb als Kurzformel dafür, wie „KI-tauglich“ ihre Hardware ist.

Die Zahl, mit der Chiphersteller werben

TOPS ist in den letzten Jahren zur wichtigsten Marketingzahl für Prozessoren geworden. Bei Grafikkarten war es früher der Takt in Gigahertz, heute ist es bei KI-Chips der TOPS-Wert. Microsoft hat die Einheit sogar zur Bedingung gemacht: Ein Laptop darf sich nur dann „Copilot+ PC“ nennen, wenn sein KI-Baustein mindestens 40 TOPS liefert. Damit entscheidet eine einzige Zahl darüber, welches Produktlabel ein Gerät tragen darf.

Wirtschaftlich steht dahinter eine größere Verschiebung. Bisher liefen KI-Anwendungen fast immer in Rechenzentren, weit weg vom Nutzer. Wenn Chips vor Ort genug TOPS liefern, kann die Rechnung direkt auf dem Gerät passieren. Das spart Serverkosten, funktioniert ohne Internet und hält private Daten im Haus. Für Anbieter wie Qualcomm, Apple, AMD oder Intel ist das ein Milliardenmarkt.

Man sollte den Wert trotzdem mit Vorsicht lesen. TOPS ist ein theoretisches Maximum unter Idealbedingungen, kein gemessenes Ergebnis aus echter Nutzung. Ob ein Programm die Leistung tatsächlich abruft, hängt von Software, Speicher und Kühlung ab. Ein Auto mit 300 km/h Höchstgeschwindigkeit fährt im Stadtverkehr auch nicht schneller als jedes andere.

Was hinter der Zahl steckt

Der Wert entsteht aus einer simplen Multiplikation. Man nimmt die Zahl der Recheneinheiten auf dem Chip, multipliziert sie mit den Operationen pro Takt und mit der Taktfrequenz. Heraus kommt die theoretische Spitzenleistung. Weil moderne KI-Chips tausende kleiner Recheneinheiten parallel betreiben, ergeben sich schnell zweistellige TOPS-Zahlen.

Entscheidend ist eine oft verschwiegene Angabe: die Genauigkeit der Zahlen. Ein Chip kann mit groben Zahlen rechnen, etwa mit ganzen Werten zwischen 0 und 255, oder mit feineren Kommazahlen. Grobe Zahlen sind schneller, deshalb steigt der TOPS-Wert, wenn man die Genauigkeit senkt. Ein Chip mit 50 TOPS bei grober Rechenart kann bei feinerer Rechenart nur noch 25 oder weniger schaffen. Seriöse Angaben nennen deshalb immer das Format dazu, meist als „INT8“ oder „INT4“.

Verwandt ist die Einheit FLOPS, die Rechenschritte mit Kommazahlen zählt. Große Trainingsrechner werden fast immer in FLOPS angegeben, kleine Geräte-Chips dagegen in TOPS. Ein direkter Vergleich beider Zahlen ist nicht sinnvoll, auch wenn er in Artikeln oft gezogen wird.

TOPS im Handy, im Laptop und im Auto

Am häufigsten trifft man die Einheit in Produktbeschreibungen von Notebooks und Smartphones. Dort bezieht sie sich auf die NPU, also den Chipteil, der ausschließlich für KI-Aufgaben gebaut ist. Ein Smartphone der Oberklasse liegt aktuell bei etwa 40 bis 50 TOPS, ein Laptop-Chip bei 40 bis 80. Diese Leistung genügt für Rauschunterdrückung in Videocalls, Übersetzungen ohne Netz oder das Freistellen von Personen im Bild.

Auch die Autoindustrie rechnet in TOPS. Systeme für automatisiertes Fahren müssen Kamerabilder in Echtzeit auswerten, und Hersteller nennen dafür Werte im Bereich mehrerer hundert TOPS. In Börsenmeldungen dient die Zahl dann als Beleg dafür, dass ein Zulieferer technisch vorne liegt.

Als Käufer sollte man die Zahl nicht überbewerten. Nützlich ist sie für einen groben Vergleich innerhalb derselben Chipgeneration und desselben Zahlenformats. Sie sagt aber nichts darüber, ob deine Lieblingssoftware die NPU überhaupt nutzt. Viele Programme laufen bis heute lieber auf Prozessor oder Grafikchip – dann bleibt die schönste TOPS-Angabe ungenutzt.