Technologische Singularität

Die technologische Singularität ist eine Zukunftsvermutung, keine Beobachtung. Sie beschreibt einen möglichen Zeitpunkt, an dem Maschinen in allen geistigen Aufgaben besser sind als der beste Mensch. Der entscheidende Gedanke: Eine solche Maschine könnte dann selbst neue, noch bessere Maschinen entwerfen. Diese wiederum entwerfen noch bessere, und zwar immer schneller. Menschen könnten dieser Kette irgendwann nicht mehr folgen, weil sie zu schnell abläuft und zu kompliziert wird. Das Wort „Singularität“ ist aus der Physik entlehnt und meint hier: eine Grenze, hinter der unsere üblichen Vorhersagen nicht mehr funktionieren.

Warum eine Vermutung so viel Geld bewegt

Die Idee ist alt, aber sie ist gerade wieder allgegenwärtig. Chefs großer Technologiefirmen sprechen offen davon, Maschinen mit menschlicher oder übermenschlicher Denkfähigkeit bauen zu wollen. Solche Aussagen sind nicht nur Philosophie, sie beeinflussen Investitionen in Milliardenhöhe. Wer glaubt, dass dieser Punkt nah ist, baut heute Rechenzentren und kauft Chips auf Jahre im Voraus.

Gleichzeitig ist die Singularität ein zentrales Argument in der Debatte um Risiken. Wenn eine Technik sich selbst verbessert, entsteht ein Kontrollproblem. Man kann eine Maschine nicht mehr einfach abschalten, wenn sie Situationen besser durchdenkt als ihre Betreiber. Deshalb finanzieren Regierungen und Firmen Forschung dazu, wie sich Ziele von KI-Systemen dauerhaft an menschliche Interessen binden lassen. Dieses Forschungsfeld heißt Alignment, also Ausrichtung.

Viele Fachleute halten die These allerdings für stark übertrieben. Ihr Vorwurf: Die Singularität sei eher ein Glaubenssatz als eine Prognose, weil sie sich kaum überprüfen lässt. Sie warnen davor, dass ferne Weltuntergangsszenarien die Aufmerksamkeit von heutigen Problemen ablenken. Dazu gehören Diskriminierung durch Software, Urheberrecht, Desinformation und der Stromverbrauch großer Modelle.

Die Logik der sich selbst beschleunigenden Kette

Das Argument beruht auf einer Rückkopplung. Eine Rückkopplung liegt vor, wenn das Ergebnis eines Vorgangs den Vorgang selbst verstärkt. Ein Mikrofon vor dem Lautsprecher ist das klassische Beispiel: Ein leises Geräusch wird verstärkt, wieder aufgenommen, noch stärker verstärkt, und nach kurzer Zeit pfeift es. Übertragen auf Technik: Bessere KI baut bessere KI. Fachleute nennen diesen Vorgang Intelligenzexplosion.

Voraussetzung dafür ist, dass Forschung selbst automatisierbar ist. Heute machen KI-Programme Teile davon schon mit, etwa beim Schreiben von Programmcode oder beim Durchprobieren von Modellvarianten. Von einem System, das eigenständig neue Grundlagen entwickelt, ist die Praxis aber weit entfernt. Aktuelle Modelle lernen aus riesigen Textmengen und werden nach dem Training nicht von sich aus klüger.

Gegen die Kettenreaktion sprechen harte Grenzen. Chips müssen produziert werden, Fabriken dafür brauchen Jahre. Strom und Kühlwasser sind endlich, Experimente in Physik oder Medizin brauchen echte Zeit im Labor. Außerdem werden Fortschritte oft teurer, je weiter man kommt: Die letzten Prozentpunkte Genauigkeit kosten ein Vielfaches der ersten. Eine Explosion setzt voraus, dass diese Bremsen alle nicht greifen.

Vom Science-Fiction-Motiv zur Schlagzeile

Begegnen wird man dem Begriff vor allem in Interviews, Büchern und Börsenkommentaren. Populär gemacht hat ihn der Erfinder Ray Kurzweil, der den Zeitpunkt seit Jahren um das Jahr 2045 herum ansetzt. In Nachrichtentexten steht die Singularität häufig neben dem Kürzel AGI für allgemeine künstliche Intelligenz, also ein System, das nicht nur eine Aufgabe beherrscht, sondern beliebige geistige Aufgaben.

Wichtig ist die Abgrenzung: AGI wäre ein Systemtyp, die Singularität ein Ereignis, das darauf folgen könnte. Man kann das eine für möglich halten und das andere für unwahrscheinlich. Ein häufiger Irrtum ist außerdem, die Singularität mit Bewusstsein zu verwechseln. Die These sagt nichts darüber, ob eine Maschine etwas fühlt, sondern nur, wie leistungsfähig sie ist.

Im Alltag ist von all dem nichts zu spüren, und das bleibt vorläufig so. Wenn Politiker über KI-Gesetze streiten oder Firmen ihre nächsten Modelle ankündigen, schwingt die Idee jedoch im Hintergrund mit. Wer die Debatte verfolgt, sollte deshalb bei jeder Aussage prüfen, ob sie eine Messung beschreibt oder eine Erwartung.