CBRN-Risiken

Die vier Buchstaben CBRN stehen für chemisch, biologisch, radiologisch und nuklear. Gemeint sind Stoffe, die sehr viele Menschen auf einmal töten oder schwer verletzen können: Giftgase, Krankheitserreger, radioaktives Material und Kernwaffen. CBRN-Risiken sind die Gefahren, die von genau diesen vier Kategorien ausgehen. Der Begriff stammt aus dem Militär und dem Katastrophenschutz, wo man früher von ABC-Waffen sprach. In der Diskussion über künstliche Intelligenz taucht er seit einigen Jahren regelmäßig auf. Dort geht es um eine bestimmte Frage: Kann ein Computerprogramm, das Fragen beantwortet, jemandem beim Bau solcher Waffen helfen?

Warum ausgerechnet diese vier Buchstaben in KI-Berichten stehen

Die meisten Fehler einer KI sind ärgerlich, aber reparabel. Ein falsches Datum in einem Referat kostet eine Note, kein Menschenleben. Bei CBRN ist das anders: Ein einziger erfolgreicher Missbrauch kann Tausende Tote bedeuten und lässt sich nicht rückgängig machen. Deshalb behandeln Unternehmen und Gesetzgeber dieses Thema getrennt von allen anderen Risiken.

Das entscheidende Argument heißt Zugangsschwelle. Das Wissen über Nervengifte oder gefährliche Viren existiert längst in Fachbüchern und Studien. Bisher musste man aber jahrelang studieren, um es zu finden, zu verstehen und anzuwenden. Eine KI könnte dieses verstreute Wissen sortieren, erklären und in Handlungsschritte übersetzen. Damit sinkt die Schwelle, und der Kreis möglicher Täter wird größer.

Genau hier setzen Gesetze an. Der KI-Verordnung der EU und die Sicherheitsrichtlinien der USA nennen CBRN ausdrücklich als Grund für strengere Prüfungen. Große Anbieter wie OpenAI und Anthropic veröffentlichen inzwischen eigene Stufenmodelle, in denen CBRN-Fähigkeiten die höchsten Warnstufen auslösen. Wird eine Stufe erreicht, darf das Modell erst nach zusätzlichen Schutzmaßnahmen erscheinen.

Wie Anbieter das Wissen aus dem Modell heraushalten

Der erste Ansatzpunkt liegt beim Trainingsmaterial. Ein Sprachmodell lernt aus riesigen Textmengen aus dem Internet und aus Büchern. Besonders heikle Fachtexte werden vorher aussortiert, damit sie gar nicht erst ins Modell gelangen. Vollständig gelingt das nie, weil sich gefährliches Wissen aus vielen harmlosen Einzelteilen zusammensetzen lässt.

Deshalb kommt eine zweite Ebene dazu: das Verhalten im Gespräch. Das Modell wird darauf trainiert, bestimmte Bitten abzulehnen. Zusätzlich laufen Filterprogramme mit, die Frage und Antwort mitlesen und im Ernstfall abbrechen. Man kann sich das wie zwei Schlösser an derselben Tür vorstellen: eines im Modell selbst, eines davor.

Ob das reicht, prüfen sogenannte Red Teams. Das sind Fachleute für Chemie, Biologie und Kernphysik, die im Auftrag des Anbieters gezielt versuchen, die Sperren zu umgehen. Sie stellen ihre Fragen zerstückelt, verpacken sie in erfundene Geschichten oder tarnen sie als Forschungsprojekt. Findet ein Red Team eine Lücke, wird nachtrainiert. Ein verbreiteter Irrtum ist übrigens, das Modell besitze eine Bauanleitung als fertigen Text. So funktioniert es nicht: Gefährlich ist die Fähigkeit, Wissen zu kombinieren und Rückfragen zu beantworten.

CBRN in Sicherheitsberichten und Schlagzeilen

Am häufigsten begegnet der Begriff in den Sicherheitsberichten, die Anbieter zu jedem neuen Modell veröffentlichen. Dort steht ein eigener Abschnitt zu CBRN, oft mit einer Einstufung wie niedrig, mittel oder hoch. Wer wissen will, wie riskant ein Modell gilt, findet dort die offizielle Antwort des Herstellers.

In Nachrichten taucht CBRN meist bei Streit über Regulierung auf. Kritiker werfen den Unternehmen vor, die Gefahr zu übertreiben, um strenge Regeln zu erreichen, die kleine Konkurrenten ausschließen. Andere halten die Warnungen für zu zurückhaltend. Für dich als Nutzer bleibt das Thema meist unsichtbar. Spürbar wird es nur, wenn ein Chatbot eine harmlos gemeinte Chemiefrage ablehnt, weil ein Filter zu vorsichtig eingestellt ist.