Large Language Model

Ein Large Language Model ist ein Computerprogramm, das Texte schreibt. Der englische Name bedeutet übersetzt “großes Sprachmodell”, abgekürzt LLM. Es hat vorher gigantische Mengen an Text gelesen: Bücher, Zeitungsartikel, Webseiten, Programmcode. Dabei hat es sich gemerkt, welche Wörter in welchem Zusammenhang üblicherweise zusammen auftreten. Wenn man es nun etwas fragt, sagt es voraus, welches Wort als Antwort am besten passt. Dann das nächste. Und so weiter, bis ein vollständiger Text entstanden ist. ChatGPT, Gemini und Claude sind bekannte Programme, die auf solchen Modellen aufbauen.

Warum das wichtig ist

Vor 2020 konnten Computer Sprache nur in engen Grenzen verarbeiten. Ein Programm für Übersetzungen konnte nichts anderes. Ein Programm für Rechtschreibprüfung ebenfalls nicht. Große Sprachmodelle brechen mit diesem Muster. Ein einziges Modell kann übersetzen, zusammenfassen, Programmcode schreiben und Prüfungsaufgaben lösen. Niemand hat es für diese Aufgaben einzeln programmiert.

Das macht die Technik wirtschaftlich extrem interessant. Firmen wie Microsoft, Google und Nvidia haben ihren Börsenwert stark daran gekoppelt. Gleichzeitig ist Sprache die Schnittstelle zu fast jedem Büroberuf. Deshalb wird so heftig darüber diskutiert, welche Tätigkeiten sich in den nächsten Jahren verändern.

Wie es funktioniert

Im Inneren steckt ein künstliches neuronales Netz. Das ist ein Rechenverfahren mit Milliarden von einstellbaren Zahlen, den Parametern. Diese Zahlen sind das Gedächtnis des Modells. Beim Training wird dem Modell ein Textstück gezeigt, bei dem das nächste Wort fehlt. Es rät. Liegt es falsch, werden die Parameter minimal nachjustiert. Das wiederholt sich viele Milliarden Mal.

Man kann sich das wie extremes Üben an Lückentexten vorstellen. Wer Millionen solcher Lücken füllt, lernt nicht nur Grammatik. Er lernt nebenbei, dass Paris in Frankreich liegt und wie ein Kochrezept aufgebaut ist. Denn dieses Wissen braucht man, um die richtige Lücke zu füllen.

Wichtig ist: Das Modell rechnet mit Wahrscheinlichkeiten, es prüft keine Fakten. Deshalb erfindet es manchmal Dinge, die plausibel klingen und trotzdem falsch sind. Fachleute nennen das Halluzination. Nach dem Grundtraining folgt eine Feinabstimmung. Menschen bewerten dabei Antworten, und das Modell lernt, hilfreiche und höfliche Antworten zu bevorzugen.

Wo man dem Begriff begegnet

Im Alltag steckt die Technik in Chatbots, in der Autovervollständigung von E-Mails und in Suchmaschinen, die ganze Antworten statt Linklisten liefern. Auch Übersetzungsdienste und Programmierhilfen arbeiten damit. In der Schule ist sie inzwischen ein Dauerthema, weil Hausaufgaben damit in Sekunden entstehen.

In Nachrichten trifft man meist auf zwei Zahlen. Die Parameterzahl beschreibt die Größe des Modells. Das Kontextfenster gibt an, wie viel Text es gleichzeitig berücksichtigen kann. Außerdem tauchen ständig Modellnamen mit Versionsnummern auf, etwa GPT-5 oder Llama 3. Man liest auch von offenen Modellen, die jeder herunterladen darf, und geschlossenen, die nur über die Server des Anbieters laufen. Wer diese Unterscheidung kennt, versteht die meisten Meldungen zur KI-Branche deutlich schneller.