Fine-Tuning

Große KI-Programme lernen zuerst an gewaltigen Mengen Text aus dem Internet. Danach können sie sehr viel ein bisschen, aber nichts besonders genau. Fine-Tuning ist der zweite Schritt: Man trainiert das fertige Programm noch einmal weiter, mit einer viel kleineren, sorgfältig ausgewählten Sammlung von Beispielen. Aus einem Allrounder wird so ein Spezialist für eine bestimmte Aufgabe. Der Vergleich mit der Ausbildung eines Menschen passt gut: Erst kommt die allgemeine Schulbildung, dann die Lehre im konkreten Betrieb. Niemand fängt für die Lehre wieder in der ersten Klasse an.

Warum niemand mehr bei null anfängt

Ein großes Sprachmodell von Grund auf zu bauen, kostet leicht mehrere Millionen Euro. Man braucht dafür tausende Spezialchips, die über Wochen rechnen, und riesige Textmengen. Fine-Tuning ist dagegen billig. Je nach Modellgröße reichen ein paar hundert bis wenige tausend gute Beispiele und ein paar Stunden Rechenzeit.

Genau das hat den KI-Markt verändert. Ein Krankenhaus, eine Anwaltskanzlei oder ein Softwarehersteller muss kein eigenes Modell entwickeln. Es nimmt ein frei verfügbares Modell und passt es mit eigenen Daten an. Deshalb veröffentlichen Firmen wie Meta oder Mistral ihre Modelle absichtlich zum Herunterladen: Sie liefern die Basis, andere bauen darauf ihre Produkte.

Fine-Tuning ist auch der Grund, warum Chatbots höflich antworten und nicht einfach Texte weiterschreiben. Das rohe Basismodell kann nur Wörter fortsetzen. Erst durch Nachtraining mit vielen Frage-Antwort-Paaren lernt es, sich wie ein Gesprächspartner zu verhalten. Ohne diesen Schritt wäre ChatGPT nie ein benutzbares Produkt geworden.

Von Beispielpaaren zu angepassten Gewichten

Ein Modell besteht aus Milliarden von Zahlen, den sogenannten Gewichten. Sie legen fest, wie das Programm von einer Eingabe zu einer Antwort kommt. Beim Fine-Tuning zeigt man dem Modell ein Beispiel, vergleicht seine Antwort mit der erwünschten Antwort und verschiebt die Gewichte ein winziges Stück in die richtige Richtung. Das wiederholt man tausendfach. Die Schritte sind absichtlich klein, damit das alte Wissen nicht verloren geht.

In der Praxis werden meist nicht alle Gewichte verändert. Beliebt ist ein Verfahren namens LoRA, bei dem man nur wenige zusätzliche Zahlen anlernt und den großen Rest unangetastet lässt. Das spart Speicher und Kosten enorm. Das Ergebnis ist eine kleine Zusatzdatei, oft nur wenige Megabyte groß, die man auf das Basismodell aufsteckt wie einen Adapter.

Der typische Fehler heißt Überanpassung: Trainiert man zu lange auf zu wenigen Beispielen, plappert das Modell diese Beispiele nur noch nach. Ein verwandtes Problem ist das Vergessen früherer Fähigkeiten. Ein Modell, das ausschließlich auf Rechtstexte feingetunt wurde, kann danach schlechter Alltagsfragen beantworten. Deshalb mischt man beim Training häufig allgemeine Beispiele unter die Spezialdaten.

Fine-Tuning in Produkten und Schlagzeilen

Wer eine KI in ein Produkt einbaut, trifft schnell auf diese Entscheidung. Anbieter wie OpenAI oder Google verkaufen Fine-Tuning als Dienst: Man lädt eigene Beispieldaten hoch und erhält ein angepasstes Modell zurück. Auf der Plattform Hugging Face liegen zehntausende solcher angepassten Modelle öffentlich bereit, etwa für Medizin, Programmiercode oder einzelne Sprachen.

Wichtig ist die Abgrenzung zu zwei Nachbarbegriffen. Ein Prompt ist nur eine Anweisung im Chatfenster und verändert das Modell überhaupt nicht. Beim Verfahren RAG bekommt das Modell zur Laufzeit passende Dokumente mitgeliefert, damit es Fakten nachschlagen kann. Fine-Tuning verändert dagegen das Modell selbst. Als Regel gilt: Für aktuelles Faktenwissen nimmt man RAG, für Stil, Format und Verhalten nimmt man Fine-Tuning.

In den Wirtschaftsnachrichten taucht der Begriff oft im Streit um offene Modelle auf. Wenn ein Unternehmen ein Modell frei zum Download stellt, kann jeder es nachtrainieren, auch mit Zielen, die dem Hersteller nicht gefallen. Sicherheitsregeln lassen sich durch Fine-Tuning nämlich teilweise wieder herausnehmen. Genau darüber diskutieren Aufsichtsbehörden derzeit intensiv.