Trainingsdatensatz

Moderne KI-Programme werden nicht Regel für Regel von Menschen geschrieben. Stattdessen zeigt man ihnen sehr viele Beispiele und lässt sie daraus Muster ableiten. Diese Sammlung von Beispielen nennt man Trainingsdatensatz. Bei einem Programm, das Katzen auf Fotos erkennen soll, besteht er aus Millionen Bildern mit dem Hinweis, was jeweils darauf zu sehen ist. Bei einem Chat-Programm besteht er aus riesigen Mengen Text: Webseiten, Bücher, Foren, Programmcode. Der Datensatz ist also nicht Teil des fertigen Produkts, sondern das Material, aus dem es entsteht.

Der Datensatz zieht die Obergrenze

Ein Programm kann nur Muster lernen, die in seinen Beispielen vorkommen. Wer ein Bilderkennungssystem ausschließlich mit Fotos aus Europa trainiert, bekommt ein System, das außerhalb Europas schlechter funktioniert. Das ist kein Programmierfehler, sondern eine Eigenschaft der Daten. Deshalb sagt man: der Trainingsdatensatz setzt die Obergrenze für das, was am Ende möglich ist.

Besonders heikel sind Verzerrungen, die niemand absichtlich eingebaut hat. Enthalten Bewerbungsdaten aus dreißig Jahren überwiegend männliche Führungskräfte, dann lernt ein Modell diesen Zusammenhang mit. Es hält ihn für ein Muster der Welt und nicht für ein Muster der Vergangenheit. Fachleute nennen so etwas Bias, also eine systematische Schieflage. Sie lässt sich später nur mühsam wieder herausrechnen.

Dazu kommt eine rechtliche Seite. Viele große Textsammlungen stammen aus dem offenen Internet und enthalten urheberrechtlich geschützte Werke. Verlage, Fotoagenturen und Autoren klagen deshalb seit einigen Jahren gegen KI-Anbieter. Für Investoren ist das ein echtes Geschäftsrisiko, weil ein Modell schwer nachträglich vom Einfluss einzelner Daten zu befreien ist.

Vom Rohmaterial zum brauchbaren Datensatz

Am Anfang steht das Sammeln. Programme laufen dafür automatisch durch Webseiten und speichern deren Inhalte, oder ein Unternehmen kauft fertige Sammlungen ein. Danach folgt der aufwendigste Teil: das Aufräumen. Doppelte Texte werden entfernt, Werbemüll und kaputte Seiten aussortiert, oft auch bestimmte Inhalte gezielt herausgefiltert.

Bei vielen Aufgaben braucht jedes Beispiel zusätzlich eine Antwort, die das Modell treffen soll. Diese Zusatzinformation heißt Label. Ein Foto bekommt das Label « Hund », ein Kundenkommentar das Label « negativ ». Labels vergeben oft Menschen von Hand, was teuer und langsam ist. Bei Sprachmodellen umgeht man das Problem: das Modell lernt, das nächste Wort eines Textes vorherzusagen, und der Text selbst liefert die richtige Antwort.

Ein wichtiger Kniff ist die Aufteilung. Ein Teil der Daten wird zurückgehalten und beim Lernen nie gezeigt. An diesen Testdaten prüft man später, ob das Modell wirklich etwas verstanden hat. Sonst könnte es die Trainingsbeispiele einfach auswendig gelernt haben. Dieses Auswendiglernen heißt Überanpassung und ist einer der häufigsten Fehler beim Trainieren.

Wenn Datensätze in den Nachrichten stehen

In Produktankündigungen tauchen Trainingsdaten meist als Zahl auf. Anbieter nennen etwa die Menge an Text, gemessen in Token, also in Wort- und Wortteil-Einheiten. Angaben im Bereich mehrerer Billionen Token sind bei großen Sprachmodellen inzwischen normal. Wenn ein Anbieter dagegen offenlässt, woher seine Daten kommen, ist genau das die interessante Information.

Auch im Alltag begegnet man dem Thema, meist im Kleingedruckten. Wenn ein Dienst fragt, ob er deine Chats zur Verbesserung des Modells verwenden darf, geht es um künftige Trainingsdaten. Deshalb bieten viele Firmen Geschäftskunden ausdrücklich zu, ihre Eingaben nicht dafür zu nutzen. Für Unternehmen mit Kundendaten ist das oft die entscheidende Bedingung.

Ein verbreiteter Irrtum ist, ein laufendes Modell würde ständig aus Gesprächen weiterlernen. Das ist normalerweise nicht der Fall. Das Training ist ein abgeschlossener Vorgang, und danach steht das Modell fest. Neues Wissen kommt entweder über ein späteres Training hinzu oder wird bei der Anfrage mitgeliefert, etwa aus einer Suche.