Selbstreplizierend
Selbstreplizierend heißt: ein System stellt eigenständig funktionsfähige Kopien von sich selbst her. In der IT beschreibt der Begriff Schadprogramme, die sich ohne Zutun weiterverbreiten – und in der KI-Sicherheitsdebatte Programme, die sich selbst auf neue Computer kopieren könnten.
Etwas ist selbstreplizierend, wenn es Kopien von sich selbst herstellt, ohne dass ein Mensch jeden Schritt anstößt. Das Vorbild dafür ist die Natur: Eine Bakterie teilt sich, aus einer werden zwei, aus zwei werden vier. Kein äußerer Bauplan wird gebraucht, weil die Anleitung im Ding selbst steckt. In der Technik überträgt man diese Idee auf Programme. Ein selbstreplizierendes Programm enthält also nicht nur seine Aufgabe, sondern auch die Anweisung, sich weiterzugeben. Der Begriff ist neutral: Er sagt, wie sich etwas verbreitet, nicht ob es schadet.
Warum sich Verbreitung ohne Bremse so schwer kontrollieren lässt
Selbstreplikation ist deshalb ein Sicherheitsthema, weil sie exponentiell wächst. Kopiert sich ein Programm pro Stunde einmal, sind es nach zehn Stunden über tausend Exemplare. Solches Wachstum überholt jede Reaktion von Hand. Genau das unterscheidet ein selbstreplizierendes Programm von normaler Software, die nur da läuft, wo jemand sie installiert hat.
Ein historisches Beispiel ist der Morris-Wurm von 1988. Ein Student setzte ihn frei, um das Internet zu vermessen. Wegen eines Fehlers kopierte er sich viel zu oft und lahmte tausende Rechner. Der Autor wollte keinen Schaden anrichten. Trotzdem war der Schaden groß, weil sich ein selbstreplizierendes System nicht einfach zurückrufen lässt.
In der KI-Debatte gilt Selbstreplikation als eine sogenannte gefährliche Fähigkeit. Große KI-Labore prüfen ihre Modelle deshalb vor der Veröffentlichung darauf. Die Testfrage lautet: Könnte das Modell selbstständig einen Server anmieten, sich dort installieren und weiterlaufen? Bislang scheitern Modelle an solchen Aufgaben, weil sie lange Handlungsketten nicht fehlerfrei durchhalten.
Was ein Programm zum Kopieren von sich selbst braucht
Technisch braucht Selbstreplikation drei Dinge. Erstens den eigenen Code als Daten, damit das Programm überhaupt weiß, was es kopieren soll. Zweitens einen Weg nach draußen, etwa ein Netzwerk, einen USB-Stick oder eine E-Mail. Drittens einen Auslöser, der die Kopie am Ziel startet.
Der dritte Punkt ist der schwierigste. Eine Datei auf einem fremden Rechner tut von allein nichts. Klassische Würmer nutzen dafür Sicherheitslücken: Fehler in Software, durch die fremder Code ungefragt ausgeführt wird. Andere Schädlinge setzen auf Menschen und locken mit einem harmlos aussehenden Anhang. Beides erreicht dasselbe Ziel, nämlich den Start der Kopie.
Ein verbreiteter Irrtum ist, dass jeder Computervirus selbstreplizierend sei. Ein Virus hängt sich an eine andere Datei an und braucht deren Ausführung, ein Wurm verbreitet sich eigenständig über Netzwerke. Ein Trojaner dagegen tarnt sich nur und kopiert sich meist gar nicht. Auch KI-Systeme, die eigenen Programmcode schreiben, sind nicht automatisch selbstreplizierend. Erst wenn das Ergebnis das System selbst neu anlegt und startet, passt der Begriff.
Von Antivirensoftware bis zu Sicherheitstests der KI-Labore
Im Alltag begegnet man dem Thema vor allem als Abwehr. Virenscanner, automatische Updates und Firewalls existieren größtenteils, um Kopierketten zu unterbrechen. Auch dass Mailprogramme ausführbare Anhänge blockieren, gehört dazu. Diese Maßnahmen wirken an genau der Stelle, an der eine Kopie gestartet werden müsste.
In Wirtschaftsnachrichten taucht der Begriff auf, wenn eine große Schadsoftware-Welle Firmen trifft. Bekannte Fälle wie WannaCry oder NotPetya legten 2017 Krankenhäuser, Reedereien und Fabriken still. Die Schäden gingen in die Milliarden, weil die Programme sich in Firmennetzen selbst weitertrugen. Für Versicherungen und Börsen sind solche Ereignisse inzwischen ein eigenes Risiko.
In KI-Meldungen findet man Selbstreplikation in den Sicherheitsberichten zu neuen Modellen. Dort steht dann, ob ein Modell Anzeichen für diese Fähigkeit zeigt. Fällt der Test negativ aus, gilt das als Argument für eine Veröffentlichung. Außerdem diskutieren Forscher das Thema bei Nanotechnik und Raumfahrt, etwa bei Robotern, die sich auf dem Mond selbst nachbauen sollen. Dort wäre Selbstreplikation ausdrücklich erwünscht.