Llama

Llama ist eine Reihe von Computerprogrammen, die Texte lesen und selbst Texte schreiben können. Entwickelt wurden sie von Meta, dem Konzern hinter Facebook, Instagram und WhatsApp. Solche Programme lernen vorher aus riesigen Mengen an Text, welche Wörter typischerweise aufeinander folgen. Danach können sie Fragen beantworten, Texte zusammenfassen oder Programmcode schreiben. Der Name Llama stand ursprünglich für « Large Language Model Meta AI », also etwa « großes Sprachmodell von Meta ». Die erste Version erschien 2023, seither folgten mehrere Nachfolger mit steigenden Nummern.

Meta gegen die geschlossenen Konkurrenten

Die meisten bekannten KI-Systeme laufen ausschließlich auf den Servern ihrer Hersteller. Man schickt eine Frage über das Internet hin und bekommt eine Antwort zurück. Was genau im Inneren passiert, bleibt Geheimnis der Firma. Bei Llama ist das anders: Meta stellt die fertig trainierten Modelle zum Herunterladen bereit.

Damit kann jede Firma, jede Universität und im Prinzip jede Privatperson das Modell auf eigener Hardware betreiben. Für Unternehmen ist das oft der entscheidende Punkt. Wer mit Patientendaten oder Verträgen arbeitet, will diese nicht an einen fremden Anbieter senden. Ein selbst betriebenes Llama bleibt im eigenen Haus.

Fachleute streiten allerdings, ob man Llama « Open Source » nennen darf. Bei echter Open-Source-Software ist alles offen, auch die Trainingsdaten und die Nutzungsrechte. Meta veröffentlicht nur die trainierten Werte des Modells und knüpft daran Bedingungen. Sehr große Plattformen etwa dürfen Llama nicht ohne Extra-Erlaubnis nutzen. Der treffendere Begriff lautet daher « offene Gewichte ».

Was beim Herunterladen eigentlich in der Datei steckt

Ein Sprachmodell besteht aus Milliarden von Zahlen, den Parametern. Diese Zahlen sind das Ergebnis des Trainings und bestimmen, wie das Modell antwortet. Genau diese Zahlen veröffentlicht Meta. Man kann sich das wie die Noten eines Musikstücks vorstellen: Meta liefert die Partitur, den Klang erzeugt der eigene Computer.

Llama erscheint immer in mehreren Größen, angegeben in Milliarden Parametern. Kleine Varianten mit rund acht Milliarden Parametern laufen auf einem guten Gaming-PC. Große Varianten mit siebzig Milliarden oder mehr brauchen spezielle Rechenkarten aus dem Rechenzentrum. Je größer das Modell, desto besser meist die Antworten, aber desto teurer der Betrieb.

Weil die Zahlen offen vorliegen, kann man sie nachträglich verändern. Dieses Nachtrainieren mit eigenen Beispielen heißt Finetuning. Eine Anwaltskanzlei kann Llama so auf juristische Sprache trimmen, ein Krankenhaus auf medizinische Berichte. Genau dadurch sind aus Llama hunderte Spezialversionen entstanden.

Llama in Apps, Chats und Börsenmeldungen

Am direktesten begegnet man Llama in Metas eigenen Diensten. Der Assistent in WhatsApp, Instagram und Facebook baut darauf auf. Wenn dort ein Chatfenster Fragen beantwortet oder Bilder beschreibt, steckt meist ein Llama-Modell dahinter.

Viel häufiger arbeitet Llama unsichtbar im Hintergrund anderer Produkte. Zahlreiche Start-ups bauen ihre Chatbots und Suchfunktionen auf einer angepassten Llama-Version. Auch die großen Cloud-Anbieter stellen Llama als Baustein für Programmierer bereit. Wer ein Modell offline auf dem eigenen Laptop testen will, greift oft zuerst zu einer kleinen Llama-Variante.

In den Wirtschaftsnachrichten taucht Llama vor allem als Strategiethema auf. Meta verschenkt die Modelle nicht aus Idealismus, sondern um den Vorsprung von Anbietern wie OpenAI oder Google zu schmälern. Wenn eine kostenlose Alternative gut genug ist, sinken die Preise für bezahlte Modelle. Ein häufiger Irrtum ist übrigens, Llama sei ein fertiger Chatbot wie ChatGPT. Es ist zunächst nur das Modell im Inneren, die Bedienoberfläche baut jeder selbst darum.