Kontinuierliches Lernen

Programme, die man heute als Künstliche Intelligenz bezeichnet, lernen aus riesigen Mengen an Beispieltexten und Bildern. Diese Lernphase nennt man Training. Sie läuft einmal ab, dauert oft Wochen und endet an einem festen Stichtag. Danach ist das Programm fertig und verändert sich nicht mehr von selbst. Kontinuierliches Lernen wäre das Gegenteil: ein System, das im laufenden Betrieb ständig weiter dazulernt, so wie ein Mensch jeden Tag Neues aufnimmt. Bislang funktioniert das nur eingeschränkt, und der Grund dafür ist ein technisches Problem mit einem eindrucksvollen Namen.

Warum Modelle mit einem Stichtag altern

Jedes große Sprachmodell hat einen Wissensstichtag. Es kennt nur, was bis zu diesem Zeitpunkt in seinen Trainingsdaten stand. Fragt man es nach einem Ereignis von letzter Woche, hat es entweder keine Ahnung oder erfindet eine plausibel klingende Antwort. Je länger ein Modell im Einsatz ist, desto veralteter wird sein Weltbild.

Die heutige Lösung ist teuer: Man trainiert alle paar Monate ein neues Modell von Grund auf. Das kostet je nach Größe zweistellige Millionenbeträge und verbraucht enorme Mengen Strom. Ein System, das einfach weiterlernt, statt neu gebaut zu werden, würde diesen Aufwand drastisch senken. Deshalb gilt kontinuierliches Lernen als eines der wichtigsten offenen Forschungsziele.

Es geht aber nicht nur um Kosten. In manchen Bereichen ändert sich die Welt schneller, als man neu trainieren kann. Ein Betrugserkennungssystem einer Bank muss neue Betrugsmaschen sofort erkennen. Ein Roboter in einer Fabrik trifft auf Werkstücke, die es beim Training noch nicht gab.

Das Problem des katastrophalen Vergessens

Ein neuronales Netz speichert sein Wissen nicht in einzelnen Schubladen. Es besteht aus Milliarden von Zahlen, den sogenannten Parametern. Jede Information ist über sehr viele dieser Zahlen verteilt. Lernt das Netz etwas Neues, werden die Zahlen angepasst — und dabei geraten sie oft aus der Ordnung, die das alte Wissen getragen hat.

Fachleute nennen diesen Effekt katastrophales Vergessen. Trainiert man ein Modell, das Katzen erkennt, anschließend nur noch auf Autos, kann es Katzen danach schlechter erkennen als vorher. Das Wissen verschwindet nicht ordentlich Stück für Stück, sondern bricht oft schlagartig weg. Ein Mensch, der Spanisch lernt, verlernt sein Deutsch dabei nicht — genau darin ist unser Gehirn dem Computer bislang überlegen.

Gegenmittel gibt es mehrere. Bei einem Ansatz markiert man die Parameter, die für altes Wissen besonders wichtig sind, und verändert sie beim Weiterlernen nur behutsam. Bei einem anderen mischt man alte Beispiele unter die neuen Trainingsdaten, damit das Modell sein Vorwissen immer wieder auffrischt. Eine dritte Möglichkeit ist, für neue Aufgaben zusätzliche Bausteine ans Modell anzuhängen und den alten Teil unangetastet zu lassen. Keine dieser Methoden löst das Problem vollständig.

Was Chatbots heute stattdessen tun

Wenn ein Chatbot dir aktuelle Nachrichten nennt, lernt er dabei meist gar nichts. Stattdessen sucht er im Internet oder in einer Datenbank und schreibt das Gefundene mit in die Anfrage. Das Modell selbst bleibt unverändert. Dieses Verfahren heißt Retrieval Augmented Generation und ist ein Nachschlagen, kein Lernen. Auch das Gedächtnis vieler Assistenten funktioniert so: Deine Vorlieben landen in einer Notizdatei, nicht in den Parametern.

Ein häufiger Irrtum ist deshalb die Annahme, ein Chatbot werde durch die Gespräche mit dir klüger. Das stimmt in der Regel nicht. Deine Eingaben können später in ein neues Training einfließen, das ist aber ein getrennter, geplanter Vorgang beim Anbieter.

In den Nachrichten taucht der Begriff meist in zwei Zusammenhängen auf. Erstens bei Ankündigungen von Modellen mit angeblich lernfähigem Langzeitgedächtnis. Zweitens in der Robotik und beim autonomen Fahren, wo Systeme sich an neue Umgebungen anpassen sollen. Wer die Meldungen richtig einordnen will, sollte immer prüfen: Verändert sich das Modell wirklich, oder wird nur geschickter nachgeschlagen?