Large Language Model

Ein Large Language Model — kurz LLM, auf Deutsch etwa « großes Sprachmodell » — ist ein KI-System, das aus sehr vielen Texten gelernt hat, wie Sprache funktioniert. Es kennt keine Regeln im klassischen Sinne; es hat stattdessen statistische Muster aus Milliarden von Sätzen aufgesogen. Wer ihm eine Frage stellt, bekommt eine Antwort, die auf diesen Mustern basiert. Das Ergebnis klingt oft so flüssig, als würde ein Mensch antworten. Bekannte LLMs sind GPT-4 von OpenAI, Gemini von Google und Llama von Meta.

Warum LLMs eine technische Zäsur sind

Vor LLMs musste man KI-Systeme für jede Aufgabe einzeln bauen. Ein System für Übersetzungen, ein anderes für Zusammenfassungen, wieder ein anderes für Programmiercode. LLMs können all das — mit demselben Modell, ohne Umbau.

Der Grund ist die schiere Größe. Ein modernes LLM hat Milliarden von Parametern — das sind Zahlenwerte, die das Modell beim Training anpasst, um Sprache besser vorherzusagen. Ab einer bestimmten Größe entstehen Fähigkeiten, die niemand explizit einprogrammiert hat: logisches Schlussfolgern, einfaches Rechnen, analoges Denken. Forscher nennen das « emergente Fähigkeiten », weil sie scheinbar aus dem Nichts auftauchen.

Das macht LLMs zu einem Werkzeug, das sich kaum auf eine Domäne beschränken lässt — und das ist sowohl ihre Stärke als auch eine Quelle von Risiken.

Vom Textfragment zur Antwort

Ein LLM arbeitet mit kleinen Textbausteinen, sogenannten Tokens — das sind meist Wortteile oder kurze Wörter. Wenn man eine Frage eingibt, zerlegt das Modell sie in Tokens und sagt dann Schritt für Schritt vorher, welches Token als nächstes am wahrscheinlichsten kommt. So entsteht die Antwort — ein Token nach dem anderen, jedes Mal neu berechnet.

Das Training läuft anders: Das Modell bekommt einen Text, bei dem das letzte Wort verdeckt ist, und muss es raten. Liegt es falsch, werden die internen Parameter minimal korrigiert. Das passiert Milliarden Mal, auf Texten aus dem Internet, aus Büchern, aus wissenschaftlichen Arbeiten. Am Ende hat das Modell ein feines Gefühl dafür, welche Wörter und Gedanken zusammengehören.

Wichtig: Das Modell « versteht » nicht im menschlichen Sinne. Es optimiert Wahrscheinlichkeiten. Das erklärt, warum LLMs manchmal selbstsicher falsche Aussagen machen — ein Phänomen, das Fachleute Halluzination nennen.

LLMs in Produkten und in der Berichterstattung

ChatGPT, der wohl bekannteste KI-Chatbot, basiert auf einem LLM. Microsofts Copilot, der in Word und Excel integriert ist, ebenso. Wenn Suchmaschinen neuerdings ganze Antwortabsätze statt Linklisten anzeigen, steckt fast immer ein LLM dahinter.

In der Finanz- und Technologiebranche taucht der Begriff häufig auf, wenn Unternehmen über Automatisierung, Kundenservice-Bots oder interne Wissenssuche sprechen. Viele Firmen trainieren ein bestehendes LLM auf eigenen Dokumenten weiter — das nennt sich Fine-Tuning — damit das Modell fachspezifische Fragen besser beantworten kann.

Ein häufiger Irrtum in der Berichterstattung: LLM und KI werden oft gleichgesetzt. LLMs sind aber nur eine Unterform von KI — wenn auch gerade die sichtbarste. Es gibt viele KI-Systeme, die mit Sprache nichts zu tun haben, etwa Bilderkennungssysteme oder Algorithmen zur Betrugserkennung.