Rekursive Selbstverbesserung

Ein Computerprogramm, das aus Beispielen lernt, wird normalerweise von Menschen weiterentwickelt. Forscher probieren neue Ideen aus, testen sie und bauen die nächste Version. Rekursive Selbstverbesserung bezeichnet den Fall, dass das Programm diese Arbeit selbst übernimmt. Es verbessert sich also nicht nur einmal, sondern die verbesserte Version verbessert sich erneut. Weil jede Runde von einer stärkeren Version aus startet, könnte der Fortschritt immer schneller werden. Das Wort “rekursiv” beschreibt genau das: Das Ergebnis eines Schritts wird zur Eingabe des nächsten.

Warum das wichtig ist

Bislang ist rekursive Selbstverbesserung vor allem ein Gedankenexperiment. Trotzdem prägt sie die Debatte über die Zukunft der KI stark. Der Grund ist die Geschwindigkeit. Menschliche Forschung braucht Monate pro Entwicklungsschritt, ein Programm könnte deutlich schneller arbeiten. Manche Fachleute halten es für möglich, dass ein System dadurch in kurzer Zeit weit über menschliche Fähigkeiten hinauswächst. Für diesen hypothetischen Sprung gibt es den Begriff Intelligenzexplosion.

Daraus folgt ein Sicherheitsproblem. Solange Menschen jede Version prüfen, können sie Fehler und unerwünschtes Verhalten korrigieren. Läuft der Kreislauf ohne Aufsicht, entstehen Versionen, die nie ein Mensch geprüft hat. Deshalb ist Selbstverbesserung ein Thema in den Sicherheitsberichten großer KI-Labore und in Gesetzesentwürfen. Wer investiert, achtet ebenfalls darauf: Ein Unternehmen, das seine Forschung teilweise automatisiert, könnte einen schwer einholbaren Vorsprung aufbauen.

Wie es funktionieren würde

Ein Modell verbessert sich nicht, indem es an sich selbst herumschraubt. Es tut dasselbe wie ein Forschungsteam, nur ohne Menschen. Dazu gehören mehrere Aufgaben. Es schlägt Änderungen am Aufbau des Systems vor. Es schreibt Programmcode für das Training. Es erzeugt oder sortiert Übungsdaten. Es misst anschließend, ob die neue Version besser abschneidet als die alte. Fällt der Test positiv aus, wird die neue Version zur Grundlage für den nächsten Durchlauf.

Eine Analogie ist eine Werkstatt, die Werkzeuge herstellt. Mit besseren Werkzeugen baut sie noch präzisere Werkzeuge. Der entscheidende Unterschied zu echter Selbstverbesserung: In der Werkstatt bleibt der Mensch der Handwerker. Hier soll die Werkstatt sich selbst umbauen.

In der Praxis stößt der Kreislauf an Grenzen. Jedes Training kostet Rechenzeit, Strom und Geld, und diese Ressourcen bekommt ein Modell nicht von allein. Außerdem braucht es einen verlässlichen Test für “besser”. Ist dieser Test ungenau, optimiert das System auf die Messung statt auf echte Qualität. Und wenn ein Modell überwiegend mit selbst erzeugten Daten lernt, können sich Fehler verstärken statt verschwinden.

Wo man dem Begriff begegnet

Vollständige rekursive Selbstverbesserung gibt es heute nicht. Erste Bausteine sind aber im Einsatz. KI-Assistenten schreiben Code für andere KI-Systeme, das nutzen Entwickler täglich. Modelle erzeugen Trainingsdaten für kleinere Modelle, ein Verfahren namens Destillation. Andere Systeme prüfen und bewerten Antworten, die eine KI produziert hat. Jeder dieser Schritte ersetzt ein Stück menschliche Arbeit im Entwicklungsprozess.

In Nachrichten taucht der Begriff meist in drei Zusammenhängen auf. Erstens, wenn Firmenchefs ankündigen, ihre KI beschleunige die eigene Forschung. Zweitens in Sicherheitsregeln, die Schwellen für gefährliche Fähigkeiten festlegen. Drittens in Warnungen von Forschern, die vor unkontrolliertem Fortschritt mahnen. Wer solche Meldungen liest, sollte eine Frage stellen: Ist hier von tatsächlicher Automatisierung die Rede oder von einer Erwartung für die Zukunft?