Recursive Self-Improvement

Recursive Self-Improvement heißt übersetzt „rekursive Selbstverbesserung“. Gemeint ist ein Computerprogramm, das seine eigene Arbeitsweise verbessert. Entscheidend ist, was danach passiert: Die verbesserte Version ist besser darin, sich zu verbessern. Also gelingt der nächste Schritt schneller und größer als der vorherige. Man kann sich das wie Zinsen auf einem Sparkonto vorstellen: Die Zinsen bringen selbst wieder Zinsen, und das Wachstum beschleunigt sich mit jeder Runde. Der Begriff stammt aus der Debatte darüber, wie sich künstliche Intelligenz langfristig entwickeln könnte.

Der Grund für die Sorge vor einer Intelligenzexplosion

Technischer Fortschritt war bisher immer an Menschen gebunden. Forscherinnen und Forscher brauchen Jahre, um eine neue Methode zu finden, zu testen und zu veröffentlichen. Wenn ein Programm diese Arbeit selbst übernimmt, verschwindet dieser Bremsklotz. Manche Fachleute vermuten deshalb, dass sich die Fähigkeiten einer solchen KI in Wochen statt in Jahrzehnten vervielfachen könnten. Für dieses Szenario gibt es einen eigenen Namen: Intelligenzexplosion.

Genau darin liegt das Risiko, über das viel diskutiert wird. Ein System, das sich sehr schnell selbst verändert, ist schwer zu kontrollieren. Menschen kämen mit dem Prüfen der neuen Versionen nicht mehr mit. Und ein kleiner Fehler im Ziel des Systems würde bei jedem Schritt mitkopiert und verstärkt. Wer die Sicherheit von KI erforscht, hält Selbstverbesserung deshalb für einen besonders heiklen Punkt.

Gleichzeitig ist der Begriff wirtschaftlich sehr aufgeladen. Firmen, die an KI arbeiten, verweisen gern darauf, dass ihre Systeme bald bei der eigenen Weiterentwicklung helfen. Das klingt nach einem großen Vorsprung und zieht Investorengeld an. Kritiker halten dagegen, dass zwischen „hilft bei der Arbeit“ und „verbessert sich selbst ohne Menschen“ ein enormer Unterschied liegt.

Von der Idee zur Schleife

Ein KI-Modell entsteht durch Training. Dabei bekommt es sehr viele Beispiele vorgesetzt und passt bei jedem Beispiel interne Zahlenwerte ein wenig an. Wie gut das Ergebnis wird, hängt an vielen Entscheidungen: Welche Daten nimmt man, wie ist das Modell aufgebaut, wie schnell darf es lernen? Bisher treffen Menschen diese Entscheidungen. Bei Recursive Self-Improvement trifft sie das System selbst.

Die Schleife hat vier Stationen. Das System schlägt eine Änderung an sich selbst vor. Es setzt die Änderung um, zum Beispiel indem es Code schreibt oder ein neues Training startet. Dann misst es an Testaufgaben, ob die neue Version besser abschneidet. Ist sie besser, wird sie zur Ausgangsbasis für den nächsten Durchlauf. Anschließend beginnt alles von vorn, nur mit einem stärkeren System.

In dieser Kette steckt eine Schwachstelle, die oft übersehen wird: die Messung. Verbesserung lässt sich nur an einem Maßstab feststellen. Ist der Maßstab schlecht gewählt, optimiert das System auf den Test statt auf echtes Können. Außerdem braucht jeder Durchlauf Rechenzeit, Strom und Daten. Diese Ressourcen wachsen nicht automatisch mit, und sie sind derzeit die härteste Grenze.

Wo die Selbstverbesserung heute schon anfängt

Vollständige rekursive Selbstverbesserung gibt es bisher nicht. Erste Bausteine sind aber im Einsatz. Programmierassistenten schreiben Code für neue KI-Systeme mit. Automatisierte Verfahren suchen die besten Trainingseinstellungen durch, ohne dass ein Mensch jeden Versuch von Hand startet. Und Modelle erzeugen Übungsaufgaben, mit denen andere Modelle trainiert werden – Fachleute nennen solche selbst erzeugten Daten synthetische Daten.

In Nachrichten begegnet dir der Begriff meist in zwei Zusammenhängen. Erstens bei Ankündigungen von KI-Firmen, deren Systeme angeblich „KI-Forschung automatisieren“. Zweitens in politischen Debatten über Regeln für besonders leistungsfähige Modelle. Manche Gesetzesentwürfe verlangen ausdrücklich Meldungen, wenn ein System Anzeichen von Selbstverbesserung zeigt.

Ein häufiger Irrtum: Ein Chatbot, der aus deinen Rückmeldungen im Gespräch lernt, verbessert sich nicht rekursiv. Er merkt sich Kontext oder wird später von Menschen mit neuen Daten nachtrainiert. Beim Lesen von Schlagzeilen lohnt daher eine einfache Prüffrage: Wer entscheidet über die nächste Version? Solange die Antwort „ein Team von Menschen“ lautet, ist der Kreis nicht geschlossen.