CBRN

CBRN ist eine Abkürzung aus vier englischen Wörtern. Sie steht für chemisch, biologisch, radiologisch und nuklear. Gemeint sind damit die vier Arten von Waffen, die auf einen Schlag sehr viele Menschen töten können: Giftgas, Krankheitserreger, radioaktives Material und Atombomben. Im Deutschen sagte man früher oft ABC-Waffen, heute setzt sich die englische Abkürzung durch. In Nachrichten über künstliche Intelligenz taucht der Begriff auf, weil Firmen prüfen, ob ihre Programme bei der Herstellung solcher Waffen helfen könnten.

Warum ausgerechnet diese vier Kategorien zusammengefasst werden

Die vier Waffenarten haben technisch wenig miteinander zu tun. Ein Nervengift wird ganz anders hergestellt als eine Atombombe. Zusammengefasst werden sie wegen ihrer Wirkung: Sie treffen wahllos, wirken über große Flächen und lassen sich kaum zurücknehmen. Deshalb gelten sie international als Massenvernichtungswaffen und sind durch eigene Verträge verboten oder streng begrenzt.

Für die KI-Branche ist die Kategorie aus einem praktischen Grund wichtig. Wenn ein Schaden groß genug ist, hilft es nicht mehr, ihn im Nachhinein zu reparieren. Bei den meisten Fehlern von KI-Systemen ist das anders: Eine falsche Übersetzung oder ein erfundenes Zitat lässt sich korrigieren. Eine freigesetzte Krankheit lässt sich nicht zurückholen. Deshalb behandeln Sicherheitsteams CBRN getrennt von allen anderen Risiken.

Ein häufiges Missverständnis ist, KI könne solche Waffen selbst herstellen. Das kann sie nicht. Die Sorge betrifft das Wissen: Ein Chatbot könnte einer Person ohne Ausbildung erklären, welche Schritte nötig sind. Fachleute nennen das eine Senkung der Einstiegshürde.

Wie KI-Firmen auf gefährliches Wissen testen

Bevor ein großes Sprachmodell veröffentlicht wird, durchläuft es Sicherheitsprüfungen. Ein Teil davon heißt Red Teaming: Fachleute versuchen absichtlich, dem Modell gefährliche Antworten zu entlocken. Sie stellen ihre Fragen dabei getarnt, etwa als Schulaufgabe oder als Frage eines Forschers. Wenn das Modell einknickt, gilt der Test als nicht bestanden.

Bei CBRN-Tests arbeiten die Firmen mit staatlichen Stellen zusammen. In den USA und in Großbritannien gibt es dafür eigene Institute für KI-Sicherheit. Das hat einen einfachen Grund: Um zu beurteilen, ob eine Antwort wirklich gefährlich ist, braucht man Biologen und Chemiker. Ein Softwareentwickler kann das nicht einschätzen.

Findet man ein Problem, wird das Modell nachtrainiert, sodass es solche Fragen ablehnt. Zusätzlich laufen Filter über die Anfragen der Nutzer. Beides ist nicht perfekt. Deshalb legen Firmen Schwellen fest, ab denen ein Modell gar nicht erst veröffentlicht wird.

CBRN in Sicherheitsberichten und Gesetzen

Wer die Veröffentlichungen von OpenAI, Anthropic oder Google DeepMind liest, findet dort eigene Kapitel zu CBRN. Diese Dokumente heißen System Card oder Model Card. Sie beschreiben, wie gut ein neues Modell in solchen Tests abgeschnitten hat. Anthropic ordnet seine Modelle zum Beispiel Sicherheitsstufen zu, die sich an eben diesen Risiken orientieren.

Auch die Politik nutzt den Begriff. Die KI-Verordnung der Europäischen Union nennt CBRN-Risiken ausdrücklich als Grund für strengere Auflagen bei sehr leistungsfähigen Modellen. In den USA gab es dazu eine Anordnung des Präsidenten mit ähnlicher Stoßrichtung.

Für Anleger und Beobachter der Branche ist das relevant, weil solche Prüfungen Zeit und Geld kosten. Sie können die Veröffentlichung eines Modells um Wochen verschieben. Gleichzeitig streiten Fachleute darüber, wie groß die Gefahr tatsächlich ist. Manche halten sie für überschätzt, weil das nötige Wissen ohnehin in Bibliotheken steht. Andere verweisen darauf, dass die Zusammenstellung und Erklärung dieses Wissens den entscheidenden Unterschied macht.