Superintelligenz

Superintelligenz meint ein Computersystem, das Menschen beim Denken in fast allem klar überlegen wäre. Nicht nur beim Rechnen oder beim Auswendiglernen, sondern auch beim Planen, beim Forschen, beim Überzeugen und beim Erfinden. Heutige Programme sind davon weit entfernt: Sie sind in engen Bereichen stark, etwa beim Schach oder beim Formulieren von Texten. Superintelligenz wäre dagegen in allen Bereichen gleichzeitig besser als der beste Mensch. Wichtig ist: So ein System gibt es nicht, und niemand weiß, ob es je entstehen wird. Der Begriff beschreibt also eine Möglichkeit, keine Beobachtung.

Ein Streitpunkt zwischen Warnern und Optimisten

Der Begriff ist wichtig, weil sich an ihm eine große Debatte entzündet. Eine Gruppe von Forschern hält Superintelligenz für die gefährlichste Erfindung der Geschichte. Ihr Argument: Ein System, das klüger ist als wir, könnte Ziele verfolgen, die wir nicht gemeint haben. Wir könnten es dann nicht mehr abschalten, weil es solche Versuche vorhersehen würde.

Die Gegenseite hält das für Science-Fiction, die von echten Problemen ablenkt. Heutige Systeme erfinden falsche Fakten, verstärken Vorurteile und werden für Betrug missbraucht. Wer über ferne Weltuntergänge redet, kümmert sich nach dieser Sicht zu wenig um diese konkreten Schäden. Manche Kritiker vermuten außerdem Marketing dahinter: Wer behauptet, an einer weltbewegenden Technik zu arbeiten, bekommt leichter Geld und Aufmerksamkeit.

Praktische Folgen hat der Streit trotzdem. Gesetze wie der KI-Rechtsakt der Europäischen Union unterscheiden Modelle nach ihrem möglichen Risiko. Firmen richten eigene Sicherheitsteams ein und veröffentlichen Regeln, ab welcher Fähigkeitsstufe sie ein Modell zurückhalten wollen. Die Diskussion über Superintelligenz beeinflusst also schon heute, was gebaut und veröffentlicht wird.

Der Gedanke von der sich selbst verbessernden Maschine

Die gängigste Überlegung geht so: Irgendwann könnte ein System so gut programmieren und forschen, dass es sich selbst verbessert. Die verbesserte Version wäre wieder besser im Verbessern. Dieser sich beschleunigende Kreislauf wird oft Intelligenzexplosion genannt. Aus einem Programm auf Menschenniveau würde in kurzer Zeit etwas viel Stärkeres.

Ob das wirklich so abläuft, ist offen. Denkarbeit ist nur ein Teil der Forschung: Man braucht Experimente, Daten, Chips und Strom. Diese Dinge lassen sich nicht durch besseres Nachdenken beliebig beschleunigen. Deshalb halten viele Fachleute eine langsame, stufenweise Entwicklung für wahrscheinlicher als einen plötzlichen Sprung.

Nützlich ist die Abgrenzung zu zwei Nachbarbegriffen. Eng gefasste KI löst eine einzelne Aufgabe, etwa Gesichter erkennen. Allgemeine künstliche Intelligenz, kurz AGI, wäre etwa so vielseitig wie ein Mensch. Superintelligenz ist die Stufe darüber. Ein häufiger Irrtum ist, dass es dabei um Bewusstsein oder Gefühle geht. Gemeint ist nur Leistungsfähigkeit beim Lösen von Aufgaben.

Superintelligenz in Schlagzeilen und Firmennamen

In Nachrichten trifft man den Begriff vor allem in Zitaten von Firmenchefs. Große KI-Unternehmen schreiben in ihre Selbstbeschreibungen, sie wollten sichere Superintelligenz erreichen. Es gibt Start-ups, die das Wort direkt im Namen tragen, und Konzerne, die Abteilungen danach benennen. Solche Ankündigungen bewegen Aktienkurse, auch wenn sie technisch nichts beweisen.

Ein zweiter Ort sind offene Briefe und politische Erklärungen. Immer wieder fordern Forscher und Prominente, die Entwicklung besonders leistungsfähiger Modelle zu bremsen oder zu überwachen. Regierungen richten Sicherheitsinstitute ein, die neue Modelle vor der Veröffentlichung prüfen.

Für dich als Leser ist deshalb eine Frage hilfreich: Wird hier über etwas gesprochen, das existiert, oder über ein Ziel? Bei Superintelligenz ist fast immer das Zweite gemeint. Wer den Begriff in einer Pressemitteilung liest, sollte ihn als Versprechen behandeln, nicht als Produktbeschreibung.