Instruct-Modell

Programme wie ChatGPT lernen zunächst nur eine einzige Aufgabe: aus riesigen Textmengen vorherzusagen, welches Wort als Nächstes kommt. Ein solches Rohmodell ist erstaunlich sprachgewandt, aber es gehorcht niemandem. Schreibt man ihm « Erkläre mir die Fotosynthese », antwortet es womöglich mit weiteren Prüfungsfragen, weil in seinen Trainingstexten hinter solchen Sätzen oft noch mehr Aufgaben standen. Ein Instruct-Modell ist die überarbeitete Fassung eines solchen Rohmodells. Es hat in einer zweiten Trainingsrunde tausende Beispiele gesehen, in denen auf eine Anweisung eine passende, hilfreiche Antwort folgt. Danach versteht es die Bitte als Bitte und liefert das Gewünschte.

Vom Textfortsetzer zum brauchbaren Assistenten

Der Unterschied zwischen einem Rohmodell und seiner Instruct-Variante ist im Alltag riesig. Das Rohmodell besitzt zwar dasselbe Wissen, aber man muss es mit Tricks aus ihm herauslocken. Man muss den Text so anfangen, dass die gewünschte Antwort die natürlichste Fortsetzung ist. Das beherrschen Fachleute, normale Nutzer nicht. Erst das Instruktionstraining hat Sprachmodelle für die Allgemeinheit benutzbar gemacht.

Genau darin liegt ein häufiger Irrtum. Viele glauben, die Chatbots seien deshalb so gut geworden, weil sie immer mehr gelernt hätten. Ein großer Teil des Fortschritts kam aber nicht aus mehr Wissen, sondern aus besserem Gehorsam. Das eigentliche Können lag schon vorher im Modell. Es war nur nicht abrufbar.

Für Unternehmen ist die Instruct-Variante deshalb meist die einzige, die überhaupt in Frage kommt. Wer eine KI in einen Kundenservice einbaut, braucht verlässliche Antworten auf klare Aufträge. Ein Rohmodell würde dort unvorhersehbar reagieren. Anbieter veröffentlichen ihre Modelle darum oft in zwei Ausführungen, erkennbar an Namenszusätzen wie « Base » und « Instruct ».

Was beim Instruktionstraining passiert

Die erste Stufe heißt Instruction Tuning. Menschen schreiben oder sammeln dafür Paare aus Anweisung und Musterantwort. Ein Paar könnte lauten: « Fasse diesen Text in drei Sätzen zusammen » und darunter eine gute Zusammenfassung. Das Modell trainiert weiter auf diesen Beispielen und übernimmt das Muster. Es lernt keine neuen Fakten, sondern eine neue Umgangsform.

Danach folgt meist eine zweite Stufe mit Rückmeldungen von Menschen. Testpersonen bekommen mehrere Antworten des Modells vorgelegt und bewerten, welche besser ist. Aus diesen Bewertungen wird das Modell nachjustiert. Dieses Verfahren wird oft mit dem Kürzel RLHF bezeichnet, was für Lernen aus menschlichem Feedback steht. Es sorgt dafür, dass Antworten nicht nur formal passen, sondern auch höflich, sicher und auf den Punkt sind.

Dieser zweite Trainingsschritt ist im Vergleich zum ersten winzig. Das Grundtraining verschlingt Monate und enorme Rechenkosten. Das Instruktionstraining kommt oft mit einigen zehntausend Beispielen aus. Man kann es sich vorstellen wie bei einem Menschen, der jahrelang gelesen hat und dann in wenigen Wochen lernt, in einem Beratungsgespräch aufzutreten. Das Wissen ist alt, das Verhalten ist neu.

Woran man Instruct-Modelle im Angebot erkennt

Am deutlichsten sieht man sie in den Modellnamen. Bezeichnungen wie « Llama 3 Instruct » oder « Mistral Instruct » weisen direkt darauf hin. Auf Plattformen, auf denen frei verfügbare Modelle zum Download stehen, findet man fast immer beide Fassungen nebeneinander. Wer selbst herumprobiert, sollte zur Instruct-Version greifen, sofern er kein eigenes Training plant.

In den Nachrichten taucht der Begriff meist dann auf, wenn über die Kosten oder die Sicherheit von KI berichtet wird. Sicherheitsregeln, etwa das Ablehnen gefährlicher Anfragen, werden überwiegend in dieser Trainingsphase eingebaut. Kritik an einer KI, die zu vorsichtig oder zu geschwätzig antwortet, richtet sich deshalb fast immer gegen das Instruktionstraining. Das Rohmodell darunter kann völlig unverändert geblieben sein.

Ein verwandter Ausdruck ist das Chat-Modell. Damit ist eine Instruct-Variante gemeint, die zusätzlich auf mehrere Gesprächsrunden hintereinander ausgelegt ist. Sie merkt sich also den Verlauf der Unterhaltung. In der Praxis werden beide Wörter oft gleichbedeutend benutzt, auch wenn das technisch nicht ganz sauber ist.