ROCm
ROCm ist das Software-Paket von AMD, mit dem Programme die Grafikkarten dieses Herstellers zum Rechnen benutzen können. Es ist AMDs Gegenstück zu CUDA, der entsprechenden Software von Nvidia, und damit ein zentraler Baustein im Wettbewerb um KI-Hardware.
Grafikkarten wurden ursprünglich für Bilder in Computerspielen gebaut. Sie können sehr viele einfache Rechnungen gleichzeitig ausführen, und genau das braucht man auch, um KI-Programme zu trainieren und laufen zu lassen. Damit ein Programm eine Grafikkarte überhaupt ansprechen kann, braucht es eine Zwischenschicht aus Software: Treiber, Programmbibliotheken mit fertigen Rechenbausteinen und Werkzeuge zum Übersetzen des Programmcodes. ROCm ist genau diese Zwischenschicht für die Grafikkarten und Rechenchips der Firma AMD. Der Name stand ursprünglich für „Radeon Open Compute“, wobei Radeon die Produktreihe von AMD ist. Ein großer Teil des Codes ist offen einsehbar, was AMD gern als Vorteil gegenüber der Konkurrenz betont.
AMDs Werkzeug gegen Nvidias Vorsprung
Der Markt für KI-Rechenchips wird seit Jahren von Nvidia dominiert. Das liegt nur zum Teil an der Hardware selbst. Entscheidend ist CUDA, Nvidias eigene Software-Schicht, die es seit 2007 gibt. Fast jedes KI-Forschungsprojekt der letzten fünfzehn Jahre wurde darauf entwickelt. Wer heute eine andere Grafikkarte kaufen will, muss also nicht nur einen guten Chip finden, sondern auch Software, die damit umgehen kann.
Genau hier liegt die wirtschaftliche Bedeutung von ROCm. AMDs Rechenchips der MI-Reihe sind bei den reinen Kennzahlen durchaus konkurrenzfähig, etwa beim Speicher pro Karte. Wenn die Software aber abstürzt, langsamer läuft oder bestimmte Funktionen nicht kennt, hilft die gute Hardware nichts. Analysten bewerten AMDs Chancen im KI-Geschäft deshalb regelmäßig danach, wie ausgereift ROCm gerade ist.
Für Rechenzentren geht es dabei um sehr viel Geld. Große Betreiber wollen nicht von einem einzigen Lieferanten abhängig sein, weil der dann die Preise bestimmt. Eine zweite funktionierende Plattform senkt diese Abhängigkeit. Deshalb haben Firmen wie Microsoft, Meta und OpenAI öffentlich angekündigt, AMD-Chips einzusetzen.
Von der Bibliothek bis zum Treiber
ROCm besteht aus mehreren Schichten übereinander. Unten sitzt der Treiber, also das Programm, das direkt mit dem Chip spricht. Darüber liegt eine Schnittstelle, mit der Entwickler eigene Rechenaufgaben an die Grafikkarte schicken können. Sie heißt HIP und ist absichtlich sehr ähnlich aufgebaut wie CUDA. Bestehender CUDA-Code lässt sich dadurch oft mit überschaubarem Aufwand übersetzen, statt komplett neu geschrieben zu werden.
Über dieser Schnittstelle liegen fertige Bibliotheken für Aufgaben, die in der KI ständig vorkommen. Die wichtigste Rechenart ist die Matrixmultiplikation, also das Verrechnen großer Zahlentabellen. Solche Bausteine muss niemand selbst programmieren, sie kommen mit ROCm mit. Ganz oben sitzen dann die bekannten KI-Frameworks wie PyTorch, mit denen Forscher tatsächlich arbeiten. Diese Frameworks unterstützen ROCm inzwischen offiziell.
Ein häufiger Irrtum ist, ROCm sei einfach ein Grafiktreiber. Ein Treiber ist nur der unterste Teil davon. Umgekehrt ist ROCm auch keine KI-Software im engeren Sinn: Es lernt nichts und beantwortet keine Fragen. Es ist eine Vermittlungsschicht, vergleichbar mit einem Übersetzer zwischen einem Programm und der Hardware. Ein bekannter Kritikpunkt war lange, dass ROCm nur wenige Kartenmodelle offiziell unterstützte, während CUDA praktisch auf jeder Nvidia-Karte läuft.
ROCm in Nachrichten und auf dem eigenen Rechner
In Wirtschaftsnachrichten taucht ROCm meist auf, wenn AMD neue Rechenchips vorstellt oder Quartalszahlen veröffentlicht. Typische Formulierungen sind, dass eine neue ROCm-Version bestimmte Modelle schneller ausführt oder ein Framework nun besser unterstützt wird. Solche Meldungen bewegen den Aktienkurs, weil sie etwas darüber sagen, ob AMD Kunden von Nvidia abwerben kann.
In der Praxis begegnet man ROCm überall dort, wo KI-Modelle auf AMD-Hardware laufen. Das betrifft große Supercomputer wie Frontier in den USA, aber auch normale Nutzer. Wer einen Sprachmodell-Chatbot auf dem eigenen PC mit AMD-Grafikkarte betreiben will, installiert dafür ROCm. Unter Windows ist das erst seit relativ kurzer Zeit ohne Umwege möglich, unter Linux läuft es länger stabil.
Wichtig zu wissen ist außerdem, dass ROCm nicht die einzige Alternative zu CUDA ist. Apple nutzt für seine Chips eine eigene Lösung namens Metal, und es gibt herstellerübergreifende Ansätze wie OpenCL oder Triton. Der Wettbewerb findet also nicht nur bei den Chips statt, sondern mindestens genauso stark bei der Software drumherum.