LLM

LLM

Ein LLM ist ein Computerprogramm, das aus riesigen Textmengen gelernt hat, wie Sprache aufgebaut ist, und daraus selbst Texte schreibt. Chatbots wie ChatGPT beruhen auf dieser Technik.

LLM ist die Abkürzung für « Large Language Model », auf Deutsch: großes Sprachmodell. Gemeint ist ein Computerprogramm, das enorm viel Text gelesen hat und daraus Regelmäßigkeiten der Sprache abgeleitet hat. Es kann deshalb selbst Sätze schreiben, Fragen beantworten oder Texte zusammenfassen. Der Kern der Sache ist einfacher, als viele vermuten: Das Programm sagt immer nur voraus, welches Wort als Nächstes am besten passt. Diese Vorhersage wiederholt es Wort für Wort, bis eine ganze Antwort entstanden ist. « Groß » bezieht sich dabei auf zwei Dinge: die Menge des gelesenen Textes und die Zahl der internen Stellschrauben, an denen das Programm beim Lernen dreht.

Warum Sprachmodelle plötzlich alles verändert haben

Früher musste man einem Computer für jede Aufgabe ein eigenes Programm schreiben. Für Übersetzungen eines, für Rechtschreibprüfung ein anderes. Ein LLM deckt viele dieser Aufgaben mit einem einzigen System ab. Man beschreibt die Aufgabe einfach in normaler Sprache, und das Modell versucht sie zu lösen.

Das hat wirtschaftliche Folgen, über die täglich in den Nachrichten berichtet wird. Firmen wie OpenAI, Google, Anthropic und Meta investieren Milliardenbeträge in immer größere Modelle. Auch Hersteller von Spezialchips profitieren davon, weil das Lernen dieser Modelle riesige Rechenzentren braucht. Ganze Börsenkurse hängen inzwischen an der Frage, wie schnell sich diese Technik weiterentwickelt.

Gleichzeitig gibt es einen wichtigen Vorbehalt. Ein LLM sagt wahrscheinliche Wörter voraus, es prüft keine Fakten. Deshalb erfindet es manchmal Angaben, die überzeugend klingen, aber falsch sind. Fachleute nennen das Halluzination. Wer ein LLM für Hausaufgaben oder Recherche nutzt, sollte wichtige Angaben immer gegenprüfen.

Vom Textberg zur fertigen Antwort

Am Anfang steht das Training. Das Modell bekommt gewaltige Mengen Text aus Büchern, Webseiten und Foren vorgelegt. In jedem Textstück wird ein Wort verdeckt, und das Modell soll raten, welches fehlt. Anfangs rät es zufällig, doch nach jedem Fehler werden seine internen Zahlenwerte leicht angepasst. Diese Werte heißen Parameter; große Modelle haben Hunderte Milliarden davon.

Wichtig ist, wie das Modell Text überhaupt verarbeitet. Es zerlegt Sätze in kleine Bausteine, sogenannte Token. Ein Token ist oft ein Wort, manchmal nur eine Silbe. Jeder Baustein wird in eine lange Zahlenreihe übersetzt, denn Rechnen kann der Computer nur mit Zahlen. Die zugrunde liegende Bauweise nennt man Transformer. Ihr Trick ist, dass jedes Wort gleichzeitig auf alle anderen Wörter im Text schauen kann.

Nach dem Grundtraining folgt ein Feinschliff. Menschen bewerten dabei Antworten des Modells und zeigen, welche hilfreich und welche unpassend sind. Erst dadurch wird aus einer reinen Wortmaschine ein brauchbarer Assistent. Ein Vergleich hilft: Das Grundtraining ist wie das Lesen einer ganzen Bibliothek, der Feinschliff wie ein Benimmkurs danach.

LLMs im Schulalltag, im Handy und in den Wirtschaftsnachrichten

Am bekanntesten sind Chatbots wie ChatGPT, Gemini oder Claude. Dahinter stecken jeweils LLMs verschiedener Anbieter. Man begegnet der Technik aber auch, ohne sie zu bemerken. Suchmaschinen fassen Ergebnisse zusammen, E-Mail-Programme schlagen Formulierungen vor, Übersetzungsdienste liefern flüssigere Texte als früher.

In der Softwareentwicklung sind LLMs besonders verbreitet. Programmierhilfen schreiben Code-Vorschläge, während jemand tippt. In Unternehmen beantworten sie Kundenanfragen oder durchsuchen interne Dokumente. Kleinere Modelle laufen inzwischen sogar direkt auf Smartphones, ohne Verbindung zu einem Rechenzentrum.

In Finanznachrichten taucht der Begriff meist im Zusammenhang mit Kosten und Konkurrenz auf. Dort geht es um Fragen wie: Wie teuer ist der Betrieb eines Modells pro Anfrage? Wer besitzt die nötigen Chips? Und welche Regeln setzt der Gesetzgeber, etwa die KI-Verordnung der EU? Wer versteht, was ein LLM ist, kann solche Meldungen deutlich besser einordnen.

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.