Continual Learning

Programme, die aus Beispielen lernen, werden normalerweise einmal eingerichtet und dann eingesetzt. Man sammelt vorher alle Daten, lässt das Programm sie tage- oder wochenlang durcharbeiten und friert das Ergebnis danach ein. Continual Learning beschreibt den anderen Weg: Das Programm lernt immer weiter, auch während es schon benutzt wird. Es bekommt laufend neue Beispiele und soll sie aufnehmen, ohne dabei zu vergessen, was es früher konnte. Der deutsche Begriff dafür ist kontinuierliches Lernen.

Warum das wichtig ist

Die Welt ändert sich schneller als der Inhalt eines Trainingsdatensatzes. Ein Sprachmodell, also ein Programm, das Texte fortschreibt, kennt nach dem Training nur Ereignisse bis zu einem bestimmten Stichtag. Neue Gesetze, neue Produkte, neue Fachbegriffe fehlen einfach.

Bisher lösen Firmen das brachial: Sie trainieren ein komplett neues Modell. Das kostet je nach Größe Millionen und verbraucht enorm viel Strom. Continual Learning wäre die günstigere Variante — man ergänzt nur das Neue. Genau deshalb gilt es als eines der offenen Grundprobleme der KI-Forschung.

Es gibt auch Fälle, in denen Nachtraining unvermeidbar ist. Ein System zur Betrugserkennung bei einer Bank muss auf neue Betrugsmaschen reagieren, sobald sie auftreten. Wochenlang zu warten wäre teuer.

Wie es funktioniert

Das Kernproblem heißt katastrophales Vergessen. Ein solches Programm speichert sein Wissen in Millionen von Zahlenwerten. Lernt es etwas Neues, werden diese Zahlen verschoben — und dabei geht altes Wissen verloren. Trainiert man ein Modell ausschließlich mit Chemieaufgaben nach, wird es im Rechnen plötzlich schlechter.

Ein Vergleich hilft: Stell dir ein Notizbuch vor, in dem jede neue Seite mit alten Seiten überschrieben wird. Das Neue steht drin, das Alte ist unlesbar.

Gegen dieses Vergessen gibt es drei Familien von Methoden. Die erste mischt beim Nachtraining alte Beispiele unter die neuen, damit das Programm sie wiederholt. Die zweite markiert besonders wichtige Zahlenwerte und lässt sie nur noch minimal verändern. Die dritte reserviert für neues Wissen zusätzliche Bausteine und lässt den alten Teil unangetastet.

Keine der Methoden löst das Problem vollständig. Man verschiebt es meist nur: mehr Stabilität bedeutet weniger Lernfähigkeit, mehr Lernfähigkeit bedeutet mehr Vergessen. Fachleute nennen das das Stabilitäts-Plastizitäts-Dilemma.

Wo man dem Begriff begegnet

In Produkten wird Continual Learning derzeit meist umgangen statt gelöst. Wenn ein Chatbot aktuelle Nachrichten kennt, hat er sie in der Regel nicht gelernt. Er hat sie im Moment der Anfrage aus einer Suche geholt und mitgelesen. Das ist eine Abkürzung: Das Wissen steckt im Text, nicht im Modell.

Echtes Weiterlernen findet man häufiger in kleineren, spezialisierten Systemen. Empfehlungssysteme bei Streamingdiensten passen sich ständig an neues Nutzerverhalten an. Auch Spamfilter und Systeme zur Erkennung von Kreditkartenbetrug lernen im Betrieb weiter.

In Nachrichten taucht der Begriff oft im Zusammenhang mit Trainingskosten auf. Wenn ein Unternehmen ankündigt, sein Modell künftig fortlaufend statt in großen Generationen zu aktualisieren, geht es um genau diese Technik. Ein zweites Umfeld ist das Thema Datenschutz. Lernt ein System aus laufenden Nutzereingaben, entsteht die Frage, ob es persönliche Angaben speichert — und wie man sie wieder löscht.