Safeguards
Safeguards sind eingebaute Schutzmaßnahmen, die verhindern sollen, dass ein KI-System gefährliche, illegale oder stark schädliche Antworten liefert. Sie bestehen meist aus mehreren Schichten: aus Regeln im Training, aus Filtern vor und nach der Antwort und aus Kontrollen darüber, wer das System überhaupt nutzen darf.
Ein Computerprogramm, das auf Fragen antwortet, kann grundsätzlich alles sagen, was in seinen Trainingsdaten steckte. Darunter sind auch Anleitungen für Straftaten, Beleidigungen oder gefährlicher medizinischer Unsinn. Safeguards sind die Schutzmaßnahmen, die Anbieter einbauen, damit genau solche Antworten nicht herauskommen. Man kann sie sich wie die Sicherheitsausstattung eines Autos vorstellen: Gurt, Airbag, Bremsassistent. Kein einzelnes Bauteil verhindert jeden Unfall, aber zusammen senken sie das Risiko deutlich. Der englische Begriff hat sich durchgesetzt, weil er in Berichten und Gesetzestexten der Branche verwendet wird.
Was ohne Schutzmaßnahmen passiert
Ein Sprachmodell hat kein eigenes Urteil darüber, was schädlich ist. Es sagt vorher, welche Wörter zu einer Frage passen. Eine gut formulierte Frage nach dem Bau einer Waffe sieht für die Rechnung genauso aus wie eine Frage nach einem Kuchenrezept. Ohne zusätzliche Schranken würde das Modell beides gleich bereitwillig beantworten.
Für die Anbieter ist das ein handfestes wirtschaftliches Problem. Ein einziger Screenshot mit einer schockierenden Antwort kann tagelang durch die Medien laufen. Große Kunden aus Banken, Versicherungen oder Behörden kaufen ein System nur, wenn sie sich auf sein Verhalten verlassen können. Kommt es zu Schäden, drohen Klagen und Bußgelder.
Dazu kommt der rechtliche Druck. Die europäische KI-Verordnung, oft AI Act genannt, verlangt für Systeme mit hohem Risiko dokumentierte Schutzmaßnahmen und eine Prüfung, bevor sie auf den Markt kommen. Safeguards sind damit nicht mehr nur eine freiwillige Geste, sondern eine Pflicht, die man nachweisen muss.
Die Schichten hinter der Antwort
Die erste Schicht sitzt im Training. Menschen bewerten dabei Beispielantworten und markieren, welche davon unerwünscht sind. Das Modell lernt so, Anfragen bestimmter Art höflich abzulehnen. Manche Anbieter geben zusätzlich eine schriftliche Liste von Grundregeln vor, an der sich das Modell orientieren soll.
Die zweite Schicht sind eigene Prüfprogramme, sogenannte Klassifikatoren. Das sind kleine Modelle, die nur eine Aufgabe haben: eine Eingabe oder eine fertige Antwort als harmlos oder problematisch einstufen. Sie laufen vor der Antwort und noch einmal danach. Schlägt einer davon an, wird die Antwort blockiert oder durch einen Standardtext ersetzt.
Die dritte Schicht liegt außerhalb des Modells. Dazu gehören Nutzerkonten mit Altersprüfung, Begrenzungen der Anfragen pro Stunde und die Sperrung auffälliger Konten. Getestet wird das Ganze durch sogenanntes Red Teaming: Fachleute versuchen gezielt, die Schranken auszuhebeln, bevor es andere tun. Ihre erfolgreichen Tricks fließen zurück ins Training.
Safeguards im Chatfenster und in den Schlagzeilen
Man merkt Safeguards meist erst, wenn sie greifen. Sätze wie « Dabei kann ich nicht helfen » sind ihr sichtbares Ergebnis. Auch die Warnhinweise unter Antworten zu Gesundheit oder Recht gehören dazu. Bildgeneratoren weigern sich außerdem oft, echte Personen darzustellen.
In den Nachrichten tauchen Safeguards vor allem dann auf, wenn sie versagen. Ein Jailbreak ist ein Trick, mit dem Nutzer die Schranken umgehen, etwa indem sie die verbotene Frage als harmloses Rollenspiel verpacken. Solche Lücken werden regelmäßig gefunden und nachgebessert. Es ist ein Wettlauf ohne Ziellinie.
Ein häufiger Irrtum ist, Safeguards mit Zensur gleichzusetzen. Tatsächlich gibt es einen echten Zielkonflikt: Sind die Filter zu streng, lehnt das System auch harmlose Fragen ab, etwa zur Chemie im Unterricht. Sind sie zu locker, rutschen gefährliche Antworten durch. Wo die Grenze liegt, entscheidet der Anbieter, und genau darüber wird öffentlich gestritten.