Rekursive Selbstverbesserung

Stell dir vor, ein Werkzeug könnte an sich selbst arbeiten. Ein Hammer, der sich einen besseren Hammer baut, und dieser bessere Hammer baut einen noch besseren. Genau dieses Muster meint der Begriff rekursive Selbstverbesserung, angewendet auf Software: Ein Programm verändert seinen eigenen Aufbau und wird dadurch leistungsfähiger. Die leistungsfähigere Version kann die nächste Verbesserung dann schneller oder gründlicher durchführen. „Rekursiv“ heißt dabei, dass sich derselbe Vorgang immer wieder auf sein eigenes Ergebnis anwendet. Bisher ist das vor allem eine theoretische Idee, keine Technik, die man heute kaufen kann.

Warum ein Kreislauf gefährlicher wirkt als ein Fortschritt

Normaler technischer Fortschritt braucht Menschen. Forscherinnen und Forscher haben Ideen, testen sie, veröffentlichen Ergebnisse. Das dauert Monate oder Jahre, weil Menschen nun einmal langsam sind. Bei rekursiver Selbstverbesserung würde dieser Flaschenhals wegfallen. Der Fortschritt liefe dann so schnell ab, wie die Maschine rechnen kann.

Daraus entsteht die Sorge vor einer sogenannten Intelligenzexplosion. Der Begriff stammt vom Mathematiker Irving John Good, der ihn schon 1965 formulierte. Seine Überlegung: Sobald eine Maschine besser im Bauen von Maschinen ist als jeder Mensch, wäre sie die letzte Erfindung, die der Mensch machen muss. Danach würde die Entwicklung sich selbst tragen. Wie schnell das ginge, weiß niemand – Schätzungen reichen von Jahrzehnten bis zu wenigen Tagen.

Deshalb taucht der Begriff heute vor allem in Debatten über KI-Sicherheit auf. Wenn ein System sich schneller verändert, als Menschen es prüfen können, verliert man die Kontrolle über das, was es tut. Regierungen und Labore diskutieren daher Regeln für Modelle, die an ihrer eigenen Weiterentwicklung mitarbeiten könnten. Kritiker halten das Szenario allerdings für überschätzt und lenken den Blick lieber auf heutige, greifbare Probleme.

Was eine KI an sich selbst überhaupt schrauben könnte

Ein KI-Modell ist im Kern eine riesige Sammlung von Zahlen, den Parametern. Diese Zahlen entstehen beim Training, also beim Lernen aus sehr vielen Beispielen. Ein System kann diese Zahlen nicht einfach von Hand umschreiben und dadurch klüger werden. Selbstverbesserung liefe deshalb indirekt ab, über die Arbeitsschritte drumherum.

Konkret gibt es mehrere Ansatzpunkte. Ein Modell könnte den Programmcode verbessern, mit dem das nächste Training läuft. Es könnte bessere Trainingsdaten erzeugen oder schlechte aussortieren. Es könnte auch neue Netzwerkarchitekturen vorschlagen, also andere Bauformen für das nächste Modell. Jeder dieser Schritte macht die folgende Generation ein Stück stärker.

Ob daraus wirklich ein sich beschleunigender Kreislauf wird, ist offen. Es könnte auch abflachen, weil jede weitere Verbesserung schwerer zu finden ist als die vorige. Außerdem braucht Training enorm viel Rechenleistung und Strom, und Chips lassen sich nicht durch Nachdenken herbeizaubern. Diese physischen Grenzen sind das stärkste Gegenargument zur Explosionsthese.

Vom Science-Fiction-Motiv zur Zeile im Sicherheitsbericht

Am häufigsten begegnet der Begriff in Nachrichten über KI-Risiken. Große Labore wie OpenAI, Google DeepMind und Anthropic veröffentlichen Sicherheitsrahmen für ihre Modelle. Darin steht meist ausdrücklich, ab welchem Punkt eine Fähigkeit zur eigenen Weiterentwicklung als kritisch gilt. Bei solchen Meldungen geht es also nicht um heutige Chatbots, sondern um vorsorgliche Schwellenwerte.

In abgeschwächter Form sieht man Ansätze davon bereits in Produkten. KI-Systeme schreiben Code, mit dem andere KI-Systeme trainiert werden. Sie erzeugen synthetische Trainingsdaten, also künstlich hergestellte Beispiele. Programme wie AlphaEvolve von DeepMind suchen automatisch nach besseren Algorithmen. Das ist echte Automatisierung, aber noch kein sich selbst tragender Kreislauf – ein Mensch startet jede Runde.

Wichtig ist die Abgrenzung zu zwei ähnlichen Begriffen. Maschinelles Lernen bedeutet nur, dass ein Modell aus Daten lernt, und das endet mit dem Training. Eine technologische Singularität bezeichnet den hypothetischen Zeitpunkt, ab dem die Entwicklung für Menschen unvorhersehbar wird. Rekursive Selbstverbesserung ist der Mechanismus, der dorthin führen soll. Wer die Begriffe sauber trennt, erkennt in Schlagzeilen schneller, ob es um Technik oder um Spekulation geht.