Eindämmung

Ein Computerprogramm, das aus Daten selbst Regeln ableitet, nennt man ein KI-System. Solche Systeme können heute nicht nur Texte schreiben, sondern auch Befehle auf einem Rechner ausführen, Dateien ändern oder Nachrichten verschicken. Eindämmung bedeutet: Man baut eine Umgebung, in der das System nur einen engen, vorher festgelegten Teil davon tatsächlich kann. Alles andere wird nicht verboten, sondern technisch unmöglich gemacht. Der Vergleich mit einem Labor für gefährliche Viren passt gut. Dort verlässt man sich nicht auf Vorsicht, sondern auf dichte Türen, Filter und getrennte Luftkreisläufe.

Warum man dem System nicht einfach vertraut

Moderne KI-Modelle sind nicht Zeile für Zeile programmiert. Sie sind aus riesigen Datenmengen entstanden, und niemand kann vollständig vorhersagen, wie sie in einer neuen Situation reagieren. Genau das ist das Problem: Man kann ein Verhalten testen, aber nicht beweisen, dass es in jedem Fall so bleibt. Eindämmung ist die Antwort auf diese Unsicherheit.

Fachleute unterscheiden deshalb zwei Wege. Der eine versucht, dem System die richtigen Ziele beizubringen, damit es von sich aus nichts Schädliches tut. Der andere begrenzt seine Möglichkeiten von außen. Der erste Weg ist der schönere, der zweite der verlässlichere. In der Praxis kombiniert man beide, weil keiner allein ausreicht.

Wichtig ist der praktische Alltagsfall, nicht nur das Katastrophenszenario. Ein KI-Assistent, der versehentlich eine Datenbank löscht, richtet realen Schaden an, ohne böse Absicht zu haben. Auch Fehler, Missverständnisse und manipulierte Eingaben von Nutzern zählen hier. Eindämmung schützt gegen alle diese Fälle gleichzeitig, weil sie nicht nach dem Motiv fragt.

Sandbox, Rechte und Notausschalter

Das häufigste Mittel ist die Sandbox. Das ist ein abgeschotteter Bereich auf einem Server, in dem das System rechnen darf, ohne den restlichen Computer zu berühren. Es sieht dort nur die Dateien, die man ihm gibt. Stürzt etwas ab oder wird etwas zerstört, betrifft das nur diesen Bereich.

Dazu kommen eng gesetzte Rechte. Ein System, das nur lesen soll, bekommt keine Schreiberlaubnis. Ein System, das Rechnungen prüft, bekommt keinen Zugang zum Überweisungssystem. Oft wird auch der Internetzugang gesperrt oder auf wenige erlaubte Adressen beschränkt. Dieses Prinzip heißt in der Informatik minimale Rechtevergabe: jeder bekommt genau so viel, wie er für seine Aufgabe braucht.

Eine dritte Schicht sind Kontrolle und Abbruch. Alle Aktionen werden protokolliert, damit man nachher nachvollziehen kann, was passiert ist. Heikle Schritte wie Zahlungen oder das Löschen von Daten brauchen eine menschliche Bestätigung. Und es gibt einen Notausschalter, der das System sofort stoppt. Der klingt banal, ist aber schwer sauber zu bauen, wenn Hunderte Prozesse parallel laufen.

Eindämmung in Produkten und in der Regulierung

Wer eine KI zum Programmieren nutzt, sieht Eindämmung direkt. Der Code läuft in einer abgetrennten Umgebung, und vor jedem Zugriff auf echte Dateien fragt das Programm nach. Ähnlich arbeiten KI-Agenten, die im Browser einkaufen oder Termine buchen: Sie dürfen klicken, aber der letzte Bestätigungsschritt bleibt meist beim Menschen.

In Nachrichten taucht der Begriff oft im englischen Original als Containment auf. Große KI-Labore veröffentlichen Sicherheitsrichtlinien, in denen sie Modelle nach Risikostufen einteilen. Ab einer bestimmten Stufe verspricht das Labor zusätzliche Eindämmungsmaßnahmen, etwa strengere Zugangskontrollen zu den Modellgewichten. Auch Behörden fragen in Prüfverfahren gezielt nach solchen Schutzschichten.

Ein verbreiteter Irrtum ist, Eindämmung sei dasselbe wie Zensur oder ein Inhaltsfilter. Ein Filter blockiert bestimmte Antworten, etwa Anleitungen für Sprengstoff. Eindämmung dagegen begrenzt die Handlungsmöglichkeiten des Systems in der Welt, unabhängig davon, was es sagt. Beides existiert parallel und löst verschiedene Probleme.