LPU
Eine LPU (Language Processing Unit) ist ein Spezialchip, der ausschließlich dafür gebaut ist, fertige Sprach-KI-Modelle schnell antworten zu lassen. Bekannt wurde der Begriff durch das US-Unternehmen Groq, dessen Chips Texte deutlich schneller ausgeben als übliche Grafikkarten.
Programme, die Texte schreiben oder Fragen beantworten, brauchen sehr viel Rechenleistung. Diese Rechenarbeit übernehmen normalerweise Grafikkarten, also Chips, die ursprünglich für Computerspiele entwickelt wurden. Eine LPU ist ein anderer Weg: ein Chip, der von Anfang an nur für eine einzige Aufgabe gebaut wurde, nämlich Wort für Wort Text auszugeben. Die Abkürzung steht für Language Processing Unit, auf Deutsch etwa „Sprachverarbeitungseinheit“. Der Name stammt vom US-Unternehmen Groq, das solche Chips seit 2024 bekannt gemacht hat. Der Vorteil zeigt sich vor allem beim Tempo: Antworten erscheinen oft schneller, als ein Mensch mitlesen kann.
Warum Tempo bei Textausgabe zum Geschäftsmodell wird
Große Sprachmodelle erzeugen Text nicht auf einen Schlag. Sie berechnen ein Wortstück nach dem anderen, immer der Reihe nach. Jedes neue Wortstück braucht dabei den kompletten bisherigen Text als Grundlage. Deshalb lässt sich diese Arbeit schlecht auf viele Rechenkerne verteilen, und genau darin sind Grafikkarten eigentlich stark.
Für Nutzer ist Geschwindigkeit kein Luxus, sondern entscheidet über die Brauchbarkeit. Ein Chatbot, der zehn Sekunden für eine Antwort braucht, wirkt zäh. Noch wichtiger wird das bei KI-Systemen, die sich selbst mehrfach befragen, bevor sie antworten. Dort summieren sich Wartezeiten schnell zu Minuten.
Dazu kommt Geld. Wer Millionen Anfragen pro Tag beantwortet, zahlt für jede einzelne davon Strom und Chipzeit. Eine Hardware, die dieselbe Arbeit mit weniger Energie erledigt, senkt die laufenden Kosten dauerhaft. Deshalb investieren Anbieter wie Groq, Cerebras oder SambaNova Milliarden in eigene Chips, obwohl Nvidia den Markt beherrscht.
Was eine LPU anders baut als eine Grafikkarte
Der wichtigste Unterschied liegt beim Speicher. Grafikkarten haben einen großen, aber vergleichsweise langsamen Speicher neben dem Rechenchip. Bei jedem einzelnen Wortstück müssen die Zahlen des Modells von dort geholt werden. Der Chip wartet also oft, statt zu rechnen. Fachleute nennen das einen Speicherengpass.
Eine LPU dreht das um. Der Speicher sitzt direkt auf dem Chip, unmittelbar neben den Recheneinheiten. Das ist extrem schnell, aber sehr klein: pro Chip sind es nur einige hundert Megabyte. Ein großes Sprachmodell passt da nicht hinein. Deshalb schaltet man hunderte LPUs zusammen und verteilt das Modell in Scheiben darauf.
Hinzu kommt eine feste Ablaufplanung. Bei einer LPU steht schon vor dem Start fest, welcher Chip in welchem Sekundenbruchteil welche Rechnung ausführt. Es gibt keine spontane Verteilung während des Betriebs. Das macht die Ausführung sehr gleichmäßig und vorhersagbar. Ein häufiger Irrtum ist übrigens, LPUs würden KI-Modelle trainieren. Das tun sie nicht — sie sind reine Antwortmaschinen für bereits fertig trainierte Modelle.
LPUs in Schlagzeilen und in fertigen Produkten
Am häufigsten liest man den Begriff in Meldungen über Groq. Das Unternehmen wurde von einem früheren Google-Ingenieur gegründet, der dort an KI-Chips gearbeitet hatte. Groq wirbt mit Werten wie mehreren hundert ausgegebenen Wortstücken pro Sekunde bei offenen Modellen wie Llama. Zum Vergleich: ein Mensch liest ungefähr fünf bis zehn Wortstücke pro Sekunde.
Direkt kaufen kann man solche Chips als Privatperson nicht. Man begegnet ihnen indirekt, wenn eine App oder ein Chatbot eine besonders flott reagierende KI eingebaut hat. Entwickler buchen die Rechenleistung über das Internet und zahlen pro verarbeiteter Textmenge.
Wirtschaftlich ist der Begriff interessant, weil er für den Versuch steht, Nvidias Vormacht anzugreifen. Nvidia verdient sein Geld vor allem mit Chips fürs Training. LPUs zielen auf den anderen, dauerhaft wachsenden Teil des Marktes: den täglichen Betrieb fertiger Modelle. Ob dieser Angriff aufgeht, ist offen — und genau deshalb taucht „LPU“ regelmäßig in Finanznachrichten auf.