Rekursive Selbstverbesserung

Heute werden lernende Computerprogramme von Menschen entworfen. Forscher entscheiden, wie groß ein Programm wird, mit welchen Daten es lernt und welche Rechentricks es benutzt. Rekursive Selbstverbesserung meint den gedachten Fall, dass das Programm diese Arbeit selbst übernimmt. Es untersucht seinen eigenen Aufbau, findet Schwächen und baut eine bessere Version von sich. Diese bessere Version ist dann auch besser darin, sich zu verbessern — und legt noch einmal nach. „Rekursiv“ heißt genau das: jeder Schritt wendet dasselbe Verfahren auf sein eigenes Ergebnis an. Der Begriff stammt aus der Debatte über sehr leistungsfähige künstliche Intelligenz und beschreibt bisher keine existierende Technik.

Warum aus einer Schleife ein Sprung werden könnte

Der Reiz und der Schrecken der Idee liegen im Tempo. Normaler Fortschritt in der Forschung ist an Menschen gebunden. Ein Team braucht Monate für eine neue Idee, dann muss sie getestet und veröffentlicht werden. Ein System, das sich selbst verbessert, hängt nicht an diesem Takt. Es könnte Runden in Tagen oder Stunden durchlaufen.

Deshalb spielt der Begriff in Diskussionen über Risiken eine große Rolle. Wenn jede Runde die nächste beschleunigt, wächst die Fähigkeit nicht gleichmäßig, sondern immer steiler. Fachleute sprechen dann von einer Intelligenzexplosion: einem kurzen Zeitraum, in dem ein System weit über menschliches Können hinauswächst. Der Mathematiker I. J. Good hat diesen Gedanken schon 1965 formuliert, lange vor heutigen KI-Systemen.

Praktisch wichtig ist der Begriff auch für Politik und Aufsichtsbehörden. Regeln, die erst nach einem Vorfall greifen, wären in so einem Szenario zu langsam. Wer das Szenario für möglich hält, verlangt darum Sicherheitsprüfungen vor dem Bau eines Systems, nicht danach. Wer es für unrealistisch hält, hält solche Regeln für Verschwendung. Diese Meinungsverschiedenheit steckt hinter vielen Schlagzeilen zur KI-Regulierung.

Was ein System an sich selbst überhaupt schrauben kann

Es gibt mehrere Stellschrauben, und sie sind sehr unterschiedlich schwer. Am einfachsten ist der Programmcode ringsherum: ein System schreibt Software, die das Training organisiert, und macht sie effizienter. Schwieriger ist die Architektur, also der grundlegende Bauplan des Netzwerks. Am schwersten ist es, bessere Lernverfahren zu erfinden — dafür braucht es echte Forschungsideen, nicht nur Optimierung.

Teilstücke davon existieren heute schon. KI-Systeme schreiben Code, führen Experimente aus und werten Ergebnisse aus. Manche Modelle erzeugen Übungsaufgaben, mit denen die nächste Modellgeneration trainiert wird. Das ist Selbstverbesserung im kleinen Rahmen, aber immer mit Menschen als Entscheidern. Der Sprung zur echten Rekursion ist genau dieser Punkt: niemand müsste die Schleife mehr freigeben.

Ob die Schleife wirklich immer steiler wird, ist offen. Verbesserungen könnten sich auch abflachen, weil die leichten Ideen schnell aufgebraucht sind. Außerdem braucht jede Runde Rechenzentren, Strom und Daten, und diese Dinge lassen sich nicht durch Nachdenken vermehren. Ein häufiger Irrtum ist, rekursive Selbstverbesserung mit gewöhnlichem Lernen gleichzusetzen. Ein Modell, das aus Nutzerfeedback dazulernt, verändert nur sein Wissen, nicht seinen Bauplan.

Der Begriff in Firmenankündigungen und Debatten

Am häufigsten trifft man auf das Thema, wenn KI-Firmen über ihre Ziele sprechen. Mehrere große Labore nennen offen, dass sie KI zur Beschleunigung eigener Forschung einsetzen wollen — als Assistent für die Wissenschaftler. In Sicherheitsberichten solcher Firmen gibt es eigene Abschnitte dazu, ob ein neues Modell KI-Forschung selbstständig betreiben könnte. Das gilt als Warnstufe, die besondere Vorsicht auslöst.

In Nachrichtentexten steht der Begriff oft dicht neben zwei anderen. „Superintelligenz“ bezeichnet das mögliche Ergebnis, „Alignment“ die Aufgabe, ein System auf menschliche Ziele auszurichten. Rekursive Selbstverbesserung ist der Weg dazwischen. Wenn Anleger auf solche Meldungen reagieren, geht es meist nicht um heutige Produkte, sondern um diese Erwartung.

Im Alltag begegnet man dagegen bisher nichts davon. Kein Chatbot und kein Bildgenerator baut sich nachts selbst um. Wer den Begriff in einer Werbung liest, sollte skeptisch sein: dort steht er meist als Schlagwort für gewöhnliche Updates. Nützlich ist er vor allem als Denkwerkzeug für die Frage, wie schnell diese Technik sich künftig verändern kann.