Persona-getriebene Datensynthese
Persona-getriebene Datensynthese ist ein Verfahren, bei dem ein Computerprogramm Übungstexte erzeugt, indem es jedes Mal die Rolle einer anderen erfundenen Person einnimmt. So entstehen aus einer einzigen Aufgabenstellung Millionen unterschiedlicher Beispiele, mit denen sich Sprachprogramme trainieren lassen.
Programme wie ChatGPT lernen aus riesigen Mengen an Text. Irgendwann ist das brauchbare Material aus dem Internet aber aufgebraucht oder darf aus rechtlichen Gründen nicht verwendet werden. Dann lässt man das Übungsmaterial von einem Computerprogramm selbst erzeugen. Bei der persona-getriebenen Datensynthese bekommt das Programm dafür jedes Mal eine kurze Rollenbeschreibung vorgesetzt: etwa „eine Krankenpflegerin im Nachtdienst“ oder „ein Schüler, der Physik hasst“. Aus derselben Aufgabe entstehen dadurch sehr verschiedene Texte, weil jede Rolle anders formuliert, andere Fragen stellt und andere Beispiele wählt. Genau diese Vielfalt ist der Zweck der Methode.
Das Problem mit der Einförmigkeit
Wenn man ein Sprachprogramm tausendmal bittet, eine Mathematikaufgabe zu erfinden, bekommt man tausendmal fast dasselbe. Meist geht es um Äpfel, Züge oder Taschengeld. Solche Texte sind als Übungsmaterial fast wertlos. Ein Modell, das nur damit trainiert wird, lernt eine enge Welt kennen und versagt bei allem, was daneben liegt. Fachleute nennen dieses Verkümmern des Trainingsmaterials Mode Collapse, also den Zusammenbruch der Vielfalt.
Die Personas lösen das Problem an der Wurzel. Bittet man dasselbe Programm, die Aufgabe aus Sicht einer Logistikplanerin zu formulieren, geht es plötzlich um Lieferzeiten und Lagerbestände. Ein Imker liefert eine Aufgabe über Bienenvölker. Der Inhalt bleibt Mathematik, die Verpackung ändert sich radikal. Mit einer Million Rollenbeschreibungen erhält man so eine Million Blickwinkel.
Wirtschaftlich ist das relevant, weil gutes Trainingsmaterial teuer ist. Von Menschen geschriebene Beispiele kosten oft mehrere Euro pro Stück. Synthetische Beispiele kosten Bruchteile eines Cents. Wer Vielfalt billig erzeugen kann, spart bei der Entwicklung eines Modells zweistellige Millionenbeträge.
Von der Rollenbeschreibung zum fertigen Beispiel
Am Anfang steht eine Sammlung von Personas. Diese gewinnt man meist aus vorhandenen Webtexten: Zu jedem Textabschnitt lässt man ein Modell notieren, welche Art Mensch so etwas schreiben oder lesen würde. Aus einem Artikel über Bodenproben wird dann etwa „ein Agraringenieur, der Düngemittel testet“. Anschließend werden zu ähnliche Beschreibungen aussortiert, damit die Sammlung wirklich breit bleibt.
Danach kombiniert man Persona und Aufgabe zu einer Anweisung. Sie lautet sinngemäß: Du bist diese Person, schreibe dazu eine Frage samt Lösung. Das Modell liefert den Text, ein Prüfschritt wirft Unbrauchbares weg. Bei Rechenaufgaben lässt sich die Lösung sogar maschinell nachrechnen. Was durchfällt, landet nicht im Datensatz.
Ein Missverständnis sollte man vermeiden: Die Personas sind keine echten Menschen und stehen für niemanden. Sie sind nur ein Trick, um den Zufallsgenerator des Modells in immer neue Richtungen zu schubsen. Man kann sie sich wie Würfel mit einer Million Seiten vorstellen. Der Wurf entscheidet, aus welcher Ecke der Welt das nächste Beispiel kommt.
Wo diese Datensätze auftauchen
Sichtbar wird die Methode vor allem in Forschungsberichten und in offenen Datensätzen. Bekannt geworden ist sie durch das Projekt Persona Hub, das rund eine Milliarde Rollenbeschreibungen zusammengetragen hat. Damit wurden unter anderem große Mengen an Matheaufgaben, Programmierbeispielen und Dialogen erzeugt. Mehrere kleinere Modelle erreichten damit Ergebnisse, die vorher nur deutlich größeren Systemen gelangen.
Indirekt begegnet dir das Verfahren in jedem Chatprogramm, das erstaunlich souverän auf ungewöhnliche Fachfragen antwortet. Ein Teil dieser Bandbreite stammt nicht aus echten Internettexten, sondern aus solchen erfundenen Beispielen. Auch beim Testen von Software wird die Idee genutzt: Man lässt hunderte Personas dieselbe Anwendung ausprobieren, um Schwachstellen zu finden.
In den Nachrichten taucht das Thema meist unter dem Stichwort synthetische Daten auf, oft verbunden mit Warnungen. Trainiert man Modelle zu lange nur mit ihren eigenen Erzeugnissen, verstärken sich deren Fehler und Vorurteile. Die Personas mildern das, sie heben es nicht auf. Deshalb mischen Entwickler synthetische und echte Daten in der Regel bewusst.