Feinjustierung
Feinjustierung bedeutet, ein bereits fertig trainiertes KI-Modell mit zusätzlichen, speziell ausgewählten Beispielen weiter zu trainieren. So wird aus einem Allrounder ein Spezialist für eine bestimmte Aufgabe, ohne dass man das Modell von Grund auf neu bauen muss.
Ein Sprachmodell ist ein Computerprogramm, das aus riesigen Mengen Text gelernt hat, sinnvolle Sätze zu bilden. Dieses Lernen nennt man Training, und es dauert oft Wochen und kostet Millionen. Am Ende steht ein Programm, das sehr vieles halbwegs kann, aber nichts wirklich genau so, wie ein bestimmter Betrieb es braucht. Feinjustierung ist der Schritt danach: Man nimmt das fertige Programm und trainiert es mit einer vergleichsweise kleinen Menge zusätzlicher Beispiele weiter. Dabei verändern sich die inneren Zahlenwerte des Modells nur noch leicht. Der Vergleich zum Berufsleben passt gut: Das ursprüngliche Training ist die Schule, die Feinjustierung ist die Einarbeitung im neuen Job.
Warum kaum jemand ein Modell von null baut
Ein großes Sprachmodell komplett neu zu trainieren, können weltweit nur wenige Firmen bezahlen. Nötig sind riesige Textmengen, spezielle Rechenchips und ein Stromverbrauch in der Größenordnung einer Kleinstadt über Wochen. Eine Feinjustierung dagegen läuft oft in Stunden und mit ein paar tausend Beispielen. Damit wird Spezialisierung auch für Krankenhäuser, Kanzleien oder mittelständische Firmen bezahlbar.
Der zweite Grund ist Qualität in engen Fachgebieten. Ein allgemeines Modell kennt juristische Fachsprache nur oberflächlich. Füttert man es mit tausenden echten Verträgen und deren korrekter Einordnung, trifft es danach deutlich zuverlässiger. Es lernt dabei nicht nur Inhalte, sondern auch Ton, Format und die typischen Formulierungen der Branche.
Wichtig ist eine Abgrenzung, die oft durcheinandergeht. Feinjustierung ändert das Modell selbst dauerhaft. Wenn man ihm dagegen nur in der Anfrage ein paar Beispiele mitgibt, bleibt das Modell unverändert und vergisst alles nach dem Gespräch. Beides sieht von außen ähnlich aus, ist technisch aber grundverschieden.
Was beim Nachtrainieren im Modell passiert
Ein Modell besteht aus Milliarden von Zahlen, den sogenannten Parametern. Sie legen fest, wie das Programm von einer Eingabe zu einer Ausgabe kommt. Beim Nachtrainieren zeigt man dem Modell ein Beispiel, vergleicht seine Antwort mit der gewünschten und verschiebt die Zahlen ein winziges Stück in die richtige Richtung. Das wiederholt sich tausende Male. Anders als beim ersten Training startet man aber nicht bei Zufallswerten, sondern bei bereits gutem Wissen.
Weil das Verschieben aller Milliarden Parameter teuer ist, nutzt man heute meist Sparverfahren. Das bekannteste heißt LoRA. Dabei friert man das Originalmodell ein und trainiert nur eine kleine Zusatzschicht, die man später darüberlegt. Diese Zusatzschicht ist oft nur wenige Megabyte groß und lässt sich wie ein Aufsatz austauschen.
Es gibt einen typischen Fehler dabei. Trainiert man zu lange auf zu wenige Beispiele, verlernt das Modell seine alten Fähigkeiten. Fachleute nennen das katastrophales Vergessen. Ein auf Rechtstexte feinjustiertes Modell kann dann plötzlich schlechter rechnen oder Alltagsfragen unbeholfen beantworten. Deshalb mischt man beim Nachtrainieren oft allgemeine Beispiele unter die Fachdaten.
Feinjustierte Modelle in Produkten und Schlagzeilen
Fast jeder Chatbot, den man online benutzt, ist ein feinjustiertes Modell. Das rohe Grundmodell würde Texte nur weiterschreiben, statt auf Fragen zu antworten. Erst ein Nachtraining mit Frage-Antwort-Paaren und mit menschlichen Bewertungen macht daraus einen höflichen Gesprächspartner, der Anweisungen befolgt und heikle Anfragen ablehnt.
In Firmen begegnet einem der Begriff bei branchenspezifischen Assistenten. Banken justieren Modelle auf ihre eigenen Berichte, Softwarehäuser auf ihren Programmcode, Behörden auf ihre Formulare. Bei Bildgeneratoren ist der Effekt gut sichtbar: Mit wenigen Dutzend Fotos lässt sich ein Modell auf einen bestimmten Zeichenstil oder ein bestimmtes Gesicht feinjustieren.
In den Wirtschaftsnachrichten taucht Feinjustierung meist im Zusammenhang mit offenen Modellen auf. Wenn ein Anbieter die Parameter seines Modells veröffentlicht, kann jeder es nachtrainieren. Das verschiebt Macht weg von den wenigen großen Anbietern. Gleichzeitig warnen Fachleute, dass sich mit einer Feinjustierung auch eingebaute Sicherheitsregeln wieder entfernen lassen.
