CBRN-Waffen

CBRN ist eine Abkürzung aus dem Englischen. Sie steht für chemisch, biologisch, radiologisch und nuklear. Gemeint sind damit vier Arten von Waffen, die auf einen Schlag sehr viele Menschen töten oder verletzen können. Chemische Waffen wirken über Giftstoffe wie Nervengas. Biologische Waffen nutzen Krankheitserreger, also Viren oder Bakterien. Radiologische Waffen verteilen radioaktives Material, etwa mit einer gewöhnlichen Sprengladung. Nukleare Waffen sind Atombomben, bei denen Energie aus dem Kern von Atomen freigesetzt wird. Im Deutschen sagte man früher ABC-Waffen, heute setzt sich das internationale Kürzel CBRN durch.

Die rote Linie der KI-Sicherheit

Auf einer Tech-Seite taucht das Wort auf, weil es in fast jedem Sicherheitsbericht großer KI-Firmen steht. Unternehmen wie OpenAI, Anthropic oder Google prüfen vor jeder Veröffentlichung, ob ihr neues Modell beim Bau solcher Waffen helfen könnte. Diese Prüfung gilt als härteste Hürde überhaupt. Andere Risiken werden abgewogen, hier gibt es eine klare Grenze.

Der Grund ist die Größenordnung des möglichen Schadens. Ein Chatbot, der beim Betrug hilft, richtet Schaden an, der sich reparieren lässt. Ein Erreger, der aus einem Labor entkommt, lässt sich nicht zurückholen. Fachleute sprechen deshalb von einem irreversiblen Risiko, also einem Schaden, der sich nicht rückgängig machen lässt.

Besonders im Blick sind biologische Waffen. Für eine Atombombe braucht man angereichertes Uran, riesige Anlagen und Jahre Arbeit. Dieses Wissen nützt ohne Material nichts. Bei Krankheitserregern ist das anders: Laborgeräte sind vergleichsweise billig geworden, und der Engpass war lange das Fachwissen. Genau dieser Engpass könnte durch KI kleiner werden.

Wie Modelle auf Waffenwissen getestet werden

Der Schutz besteht aus mehreren Schichten. Schon bei den Trainingsdaten werden bestimmte Texte aussortiert, etwa detaillierte Syntheseanleitungen für Giftstoffe. Danach wird das Modell darauf trainiert, solche Fragen abzulehnen. Zusätzlich laufen Filter mit, die Anfragen und Antworten in Echtzeit prüfen und im Verdachtsfall blockieren.

Vor der Veröffentlichung kommt das sogenannte Red Teaming. Dabei greift ein Team das eigene Modell absichtlich an und versucht, die Sperren zu umgehen. Häufig sind daran externe Fachleute beteiligt, etwa Biologen oder staatliche Behörden. Sie stellen Fragen, die ein echter Angreifer stellen würde, und dokumentieren jede Antwort, die zu weit geht.

Die entscheidende Frage lautet dabei nicht: Weiß das Modell etwas Gefährliches? Vieles steht in Lehrbüchern. Die Frage ist, ob das Modell einem Laien einen echten Vorteil verschafft. Fachleute nennen das uplift, also Auftrieb. Ein Modell, das Schritte sortiert, Fehler korrigiert und Rückfragen beantwortet, ersetzt womöglich jahrelange Ausbildung. Genau dieser Unterschied wird gemessen.

CBRN in Gesetzen und Firmenberichten

Im Alltag begegnet dir CBRN vor allem in Meldungen über neue KI-Modelle. Fast jede große Veröffentlichung wird von einer Sicherheitskarte begleitet, einem Dokument mit den Ergebnissen der Tests. Dort steht dann, in welcher Risikostufe das Modell eingeordnet wurde. Anthropic nutzt dafür Stufen namens ASL, OpenAI ein ähnliches System mit den Kategorien niedrig bis kritisch.

Auch die Politik nutzt das Kürzel. Die KI-Verordnung der Europäischen Union nennt CBRN-Risiken ausdrücklich als Gefahr, die Anbieter großer Modelle bewerten müssen. In den USA verlangten Regierungsvorgaben Sicherheitstests, bevor besonders leistungsfähige Modelle veröffentlicht werden. Wer Meldungen über KI-Regulierung liest, trifft das Kürzel deshalb regelmäßig.

Ein verbreiteter Irrtum ist, KI könne eine Atombombe bauen. Das kann sie nicht, denn Software liefert kein Uran und keine Zentrifugen. Umstritten ist ein anderer Punkt: Manche Forscher halten den heutigen Nutzen für Angreifer für gering, weil Internet und Fachliteratur ohnehin viel enthalten. Andere verweisen darauf, dass die Modelle jedes Jahr besser werden. Weil ein einziger Fehler hier nicht korrigierbar wäre, testen die Firmen trotzdem vorsorglich.