Gödel-Maschine

Die Gödel-Maschine ist ein Entwurf für ein Computerprogramm, das sich selbst verbessern kann. Es darf seinen eigenen Programmtext verändern, also die Anweisungen, nach denen es arbeitet. Der entscheidende Punkt ist eine Bremse: Bevor es etwas ändert, muss es mathematisch beweisen, dass die neue Fassung besser abschneidet als die alte. Ohne einen solchen Beweis bleibt alles, wie es ist. Vorgeschlagen hat diesen Entwurf der deutsche Informatiker Jürgen Schmidhuber im Jahr 2003. Der Name verweist auf den Logiker Kurt Gödel, der in den 1930er Jahren zeigte, wie ein formales System Aussagen über sich selbst treffen kann.

Der Reiz einer Maschine, die sich selbst repariert

Heutige KI-Systeme werden von Menschen entworfen. Forscher probieren Bauformen aus, messen die Ergebnisse und passen an. Dieser Kreislauf ist langsam und teuer. Eine Maschine, die diesen Schritt selbst übernimmt, würde diese Grenze aufheben. Sie könnte im Prinzip jeden Teil von sich verändern, auch die Regeln, nach denen sie über Veränderungen entscheidet.

Genauso interessant ist die Sicherheitsfrage. Software, die sich selbst umschreibt, klingt nach Kontrollverlust. Die Gödel-Maschine zeigt eine Variante, in der das nicht passiert. Jede Änderung ist an einen Beweis gebunden, und der Beweis bezieht sich auf ein von Anfang an festgelegtes Ziel. Das System kann sich also stark verändern, ohne sein Ziel zu wechseln. Diese Idee taucht bis heute in Debatten über kontrollierbare KI auf.

Wichtig ist die Abgrenzung zum normalen Lernen. Ein übliches KI-Modell passt beim Training nur seine internen Zahlenwerte an, die man Parameter nennt. Sein Aufbau und sein Lernverfahren bleiben unverändert. Die Gödel-Maschine darf dagegen auch diese äußeren Teile austauschen.

Beweis zuerst, Umbau danach

Die Maschine besteht aus zwei Teilen, die gleichzeitig laufen. Der erste Teil erledigt die eigentliche Aufgabe, etwa ein Spiel zu spielen oder einen Roboter zu steuern. Der zweite Teil ist ein Beweissucher. Er probiert systematisch logische Herleitungen durch und sucht nach einer bestimmten Aussage: dass eine konkrete Umschreibung des eigenen Codes den erwarteten Gesamtnutzen erhöht.

Findet er so einen Beweis, wird die Änderung sofort ausgeführt. Findet er keinen, läuft die alte Fassung weiter. Ein hilfreiches Bild ist eine Werkstatt mit einer strengen Prüfstelle. Der Mechaniker darf jedes Bauteil ersetzen, sogar das Werkzeug und die Prüfstelle selbst. Aber jeder Umbau braucht vorher ein unterschriebenes Gutachten, dass das Auto danach nachweislich schneller fährt.

Der Haken liegt genau in diesen Beweisen. Beweise zu finden ist extrem aufwendig, und für viele wahre Aussagen existiert überhaupt kein Beweis. Auch das geht auf Gödel zurück. In der Praxis kann der Beweissucher deshalb sehr lange rechnen, ohne je etwas zu finden. Die Gödel-Maschine ist damit theoretisch sauber, aber real nicht in nützlicher Geschwindigkeit lauffähig.

Wo der Begriff in KI-Debatten auftaucht

Ein fertiges Produkt mit diesem Namen gibt es nicht. Man begegnet dem Begriff vor allem in Fachartikeln und in Diskussionen über die Zukunft der KI. Er dient als Bezugspunkt, wenn jemand fragt, wie selbstverbessernde Software theoretisch überhaupt aussehen könnte.

In den Nachrichten taucht die Idee in abgeschwächter Form auf. Seit 2024 gibt es Systeme, die eigenen Programmcode schreiben, testen und danach überarbeiten. Manche Forschungsprojekte lassen KI-Agenten sogar ihre eigenen Arbeitsanweisungen verbessern. Diese Systeme prüfen ihre Änderungen aber durch Ausprobieren und Messen, nicht durch mathematische Beweise. Sie sind damit deutlich schwächer abgesichert als der ursprüngliche Entwurf.

Ein verbreiteter Irrtum ist, die Gödel-Maschine sei eine Art Vorstufe echter Superintelligenz, die bald gebaut werde. Sie ist ein mathematisches Gedankenmodell. Ihr Wert liegt darin, dass sie eine Grenze markiert: Sie zeigt, was mit vollständiger Beweisbarkeit möglich wäre, und macht damit sichtbar, welchen Preis reale Systeme für ihre Geschwindigkeit zahlen.