Redlines

Firmen, die Programme mit künstlicher Intelligenz bauen, legen vorher fest, was diese Programme tun dürfen. Vieles davon ist eine Abwägung: Man wägt Nutzen und Risiko ab und entscheidet von Fall zu Fall. Redlines sind der Teil, bei dem nicht abgewogen wird. Es sind Grenzen, die unter keinen Umständen überschritten werden sollen, egal wie nützlich oder lukrativ das im Einzelfall wäre. Ein typisches Beispiel: Ein Chatprogramm soll niemals eine brauchbare Bauanleitung für eine biologische Waffe liefern. Der Begriff stammt aus der Diplomatie, wo eine rote Linie den Punkt markiert, ab dem ein Staat nicht mehr mitspielt.

Warum absolute Grenzen und nicht nur Abwägung

Die meisten Regeln für KI-Systeme sind weich formuliert. Ein Modell soll hilfreich sein, höflich bleiben und keine falschen Tatsachen behaupten. Solche Regeln lassen sich im Alltag beugen, und genau das ist oft sinnvoll. Bei manchen Risiken funktioniert dieses Abwägen aber nicht mehr. Wenn ein Schaden nicht rückgängig zu machen ist, hilft es nichts, ihn hinterher zu bedauern.

Redlines schaffen deshalb einen Bereich, in dem gar nicht erst diskutiert wird. Das hat einen praktischen Nebeneffekt: Entwicklerinnen und Entwickler stehen nicht unter Druck, im Einzelfall eine Ausnahme zu rechtfertigen. Die Antwort steht schon fest, bevor jemand fragt. Das schützt auch vor dem schleichenden Verschieben von Maßstäben, wenn ein Konkurrent gerade schneller ist.

Für die Öffentlichkeit sind Redlines außerdem überprüfbar. Eine Firma, die sagt „wir gehen verantwortungsvoll vor“, sagt damit fast nichts. Eine Firma, die eine konkrete Liste veröffentlicht, kann daran gemessen werden. Deshalb verlangen Aufsichtsbehörden zunehmend genau solche Listen statt allgemeiner Absichtserklärungen.

Von der Liste zur tatsächlichen Sperre

Eine Redline steht zuerst nur in einem Dokument. Damit sie wirkt, muss sie an mehreren Stellen in die Technik eingebaut werden. Das beginnt beim Training: Problematisches Material wird aus den Lerndaten entfernt, und dem Modell wird während des Trainings systematisch beigebracht, bestimmte Bitten abzulehnen. Ein Modell, das die Antwort nie gelernt hat, kann sie auch schwerer verraten.

Darüber liegt eine zweite Schicht: kleine Prüfprogramme, sogenannte Klassifikatoren, die jede Anfrage und jede Antwort mitlesen. Sie sind darauf trainiert, kritische Themen zu erkennen, und können eine Antwort abbrechen, bevor sie beim Nutzer ankommt. Diese Schicht sitzt außerhalb des eigentlichen Modells und lässt sich leichter nachbessern als das Modell selbst.

Ob das alles hält, wird durch gezielte Angriffe getestet. Ein eigenes Team, im Fachjargon Red Team genannt, versucht die Grenzen mit Tricks zu umgehen. Beliebt sind erfundene Rollenspiele oder das Zerlegen einer verbotenen Frage in viele harmlose Teilfragen. Was dabei durchrutscht, wird nachgebessert. Ein häufiger Irrtum ist, Redlines mit Zensur gleichzusetzen: Gemeint sind sehr wenige, eng definierte Fälle, nicht unliebsame Meinungen.

Redlines in Firmenpolicies und in der Gesetzgebung

Große KI-Anbieter veröffentlichen ihre Grenzen inzwischen offen. In Nutzungsbedingungen und Sicherheitsberichten stehen Kategorien wie Waffen mit Massenwirkung, Angriffe auf kritische Computersysteme oder Darstellungen von Kindesmissbrauch. Manche Anbieter koppeln diese Grenzen an Risikostufen: Erreicht ein neues Modell eine bestimmte Gefährlichkeit, darf es erst nach zusätzlichen Schutzmaßnahmen veröffentlicht werden.

Auch Gesetze arbeiten mit dieser Logik. Die KI-Verordnung der Europäischen Union verbietet einige Anwendungen vollständig, darunter soziale Bewertungssysteme für Bürger durch Behörden. Das sind Redlines mit Rechtskraft statt freiwilliger Selbstbindung. Verstöße können empfindliche Geldbußen nach sich ziehen.

In Wirtschaftsnachrichten taucht der Begriff meist dann auf, wenn eine Grenze strittig wird. Typische Fälle sind Aufträge aus dem Militärbereich oder die Frage, ob ein Anbieter seine Modelle frei zum Herunterladen anbieten darf. Wer selbst ein KI-Werkzeug nutzt, merkt Redlines an einer knappen Ablehnung ohne Erklärung. Dass dabei gelegentlich harmlose Anfragen blockiert werden, ist der bewusst in Kauf genommene Preis.