Biosicherheit

Biosicherheit bezeichnet alle Maßnahmen, die verhindern sollen, dass Krankheitserreger wie Viren oder Bakterien großen Schaden anrichten. Dazu gehören verschlossene Speziallabore, Kontrollen beim Versand von Erbmaterial und Gesetze über gefährliche Forschung. Fachleute unterscheiden dabei zwei Seiten. Die eine betrifft Unfälle: Ein Erreger entkommt aus einem Labor, weil eine Schutzvorrichtung versagt. Die andere betrifft Absicht: Jemand versucht bewusst, einen Erreger als Waffe einzusetzen. In den letzten Jahren ist ein dritter Aspekt dazugekommen. Denn Programme, die auf Fragen ausführlich antworten können, geben unter Umständen auch gefährliches Fachwissen weiter.

Warum KI-Firmen ausgerechnet über Viren reden

Wissen über gefährliche Erreger war lange schwer zugänglich. Es steckte in Fachartikeln, in Laborroutinen und in den Köpfen weniger Spezialisten. Genau diese Hürde hat bisher viele Menschen davon abgehalten, so etwas überhaupt zu versuchen. Ein Chatbot, der komplizierte Fachtexte zusammenfasst und Rückfragen beantwortet, könnte diese Hürde senken. Fachleute nennen das eine Senkung der Einstiegsschwelle.

Deshalb steht Biosicherheit ganz oben auf der Risikoliste großer KI-Labore. Unternehmen wie OpenAI und Anthropic nennen sie neben Cyberangriffen als eines der wenigen Risiken, die einen echten Katastrophenfall auslösen könnten. Der Grund ist die Größenordnung. Ein Computervirus richtet finanziellen Schaden an, ein biologischer Erreger kostet Menschenleben und lässt sich nicht abschalten.

Wie groß die Gefahr tatsächlich ist, ist umstritten. Kritiker weisen darauf hin, dass das eigentliche Nadelöhr nicht das Wissen ist, sondern die praktische Laborarbeit. Ein Text erklärt niemandem, wie man mit lebenden Kulturen umgeht, ohne sich selbst zu infizieren. Andere halten dagegen, dass Fachwissen und Laborautomatisierung zusammen dieses Nadelöhr enger werden lassen könnten.

Filter, Tests und rote Linien

Die erste Schutzschicht liegt beim Training. Entwickler versuchen, besonders heikle Anleitungen gar nicht erst in die Lerndaten aufzunehmen. Anschließend wird dem Modell antrainiert, bestimmte Anfragen abzulehnen. Zusätzlich laufen Filter über Eingaben und Antworten, die verdächtige Muster erkennen und den Vorgang stoppen.

Ob das wirkt, prüfen Firmen mit sogenannten Red-Team-Tests. Dabei versuchen beauftragte Fachleute gezielt, dem Modell verbotenes Wissen zu entlocken. Sie verstecken die Frage etwa in einer erfundenen Geschichte oder zerlegen sie in viele harmlos wirkende Einzelschritte. Findet das Team einen Weg, wird nachgebessert, bevor das Modell veröffentlicht wird. Manche Anbieter ziehen dabei eine feste Grenze: Erreicht ein Modell eine bestimmte Gefährlichkeitsstufe, soll es gar nicht erst öffentlich erscheinen.

Ein Problem bleibt bestehen. Modelle mit offenen Gewichten, also frei herunterladbare Modelle, lassen sich nach dem Download verändern. Die eintrainierten Ablehnungen kann man mit überschaubarem Aufwand wieder entfernen. Bei solchen Modellen wirkt nur, was vorher aus den Trainingsdaten entfernt wurde.

Biosicherheit in Gesetzen und Produktmeldungen

Im Alltag begegnet dir Biosicherheit meist in den Sicherheitsberichten, die Firmen bei jedem neuen Modell veröffentlichen. Dort steht regelmäßig ein Kapitel über biologische Risiken. Formulierungen wie « das Modell bietet Laien keinen bedeutsamen Vorteil » stammen genau aus diesen Tests. Wenn ein Anbieter ein Modell als besonders leistungsfähig einstuft, schaltet er zusätzliche Schutzmaßnahmen frei.

Auch in der Politik taucht der Begriff auf. Die KI-Verordnung der EU verlangt für sehr leistungsfähige Modelle eine Risikoprüfung, in der biologische Gefahren ausdrücklich genannt sind. In den USA wurden Anbieter von synthetischer DNA verpflichtet, Bestellungen gegen Listen gefährlicher Sequenzen abzugleichen. Das zeigt eine wichtige Einsicht: Der Schutz hängt nicht nur an der Software, sondern auch an den Firmen, die das biologische Material tatsächlich liefern.