Safety Card

Wenn ein Unternehmen ein neues Computerprogramm veröffentlicht, das selbstständig Texte schreibt oder Bilder erzeugt, kann niemand von außen sehen, wie zuverlässig es arbeitet. Genau dafür gibt es die Safety Card. Das ist ein öffentliches Dokument, das der Hersteller zusammen mit dem Programm veröffentlicht. Darin steht, wofür es gedacht ist, welche Tests es durchlaufen hat und in welchen Situationen es bekanntermaßen Fehler macht. Der Vergleich mit einem Beipackzettel für Medikamente trifft es ganz gut: Wirkung, Anwendungsgebiet und Nebenwirkungen stehen an einer Stelle. Die Länge reicht von zwei Seiten bis zu über hundert Seiten bei großen Veröffentlichungen.

Was Nutzer und Aufsicht davon haben

Ein KI-Modell ist von außen eine Blackbox. Man sieht die Antwort, aber nicht, wie sie zustande kam. Wer entscheiden soll, ob er so ein System in einer Schule, einer Bank oder einer Arztpraxis einsetzt, braucht mehr als Werbeversprechen. Die Safety Card liefert diese Grundlage in schriftlicher Form.

Wichtig ist dabei der Teil über die Grenzen. Hersteller schreiben dort zum Beispiel hinein, dass ein Modell bei medizinischen Fragen nicht als Ratgeber taugt oder dass es bei seltenen Sprachen deutlich schlechter arbeitet. Solche Hinweise sind unbequem, aber sie verhindern Fehleinsätze. Ohne sie würde ein Unternehmen ein Werkzeug für Aufgaben verwenden, für die es nie gedacht war.

Dazu kommt der rechtliche Druck. Der AI Act der Europäischen Union verlangt für riskante Anwendungen eine technische Dokumentation. Eine Safety Card allein erfüllt diese Pflicht nicht, aber sie ist oft der öffentlich sichtbare Teil davon. Ein Punkt bleibt allerdings offen: Bisher schreibt der Hersteller selbst, worüber er berichtet. Eine unabhängige Prüfstelle wie beim TÜV gibt es dafür nicht.

Wie so ein Dokument entsteht

Bevor ein Modell erscheint, lässt der Anbieter es durch eine Reihe standardisierter Prüfungen laufen. Dabei bekommt das System tausende Testfragen und die Antworten werden bewertet. Gemessen wird etwa, wie oft es sachlich falsche Angaben erfindet oder ob es Menschen je nach Herkunft unterschiedlich behandelt. Die Ergebnisse landen als Prozentzahlen und Tabellen in der Karte.

Ein zweiter Baustein heißt Red Teaming. Dabei versuchen Fachleute absichtlich, das Modell zu bösartigem Verhalten zu bringen. Sie fragen nach Anleitungen für Waffen, nach Wegen, jemanden zu betrügen, oder sie tricksen die eingebauten Sperren mit Rollenspielen aus. Was dabei gelingt, wird protokolliert und meist nachgebessert. Die Safety Card beschreibt anschließend, welche Angriffsarten getestet wurden und was danach noch möglich blieb.

Verwechseln sollte man die Safety Card nicht mit der verwandten Model Card. Die Model Card beschreibt vor allem Technik und Trainingsdaten, also Aufbau und Herkunft. Die Safety Card legt den Schwerpunkt auf Risiken und Missbrauch. In der Praxis vermischen sich beide Formate, und manche Firmen nennen ihr Dokument stattdessen System Card.

Wo diese Dokumente auftauchen

Am häufigsten findest du Safety Cards auf den Entwicklerseiten der großen Anbieter. OpenAI, Anthropic und Google veröffentlichen sie zeitgleich mit jedem neuen Modell. Auch auf der Plattform Hugging Face, wo frei verfügbare Modelle zum Herunterladen liegen, gehört ein solches Dokument zum guten Ton. Wer ein Modell dort ohne Karte hochlädt, wird schnell darauf angesprochen.

In Wirtschaftsmeldungen tauchen Safety Cards meist dann auf, wenn ihr Inhalt überrascht. Steht darin, dass ein Modell in einem Test gefährliches Fachwissen preisgeben konnte, wird das zur Schlagzeile. Auch Kritik am Umfang ist ein wiederkehrendes Thema. Manche Karten gelten Fachleuten als zu knapp oder als Marketing im Gewand einer Prüfung.

Für dich persönlich hat das einen praktischen Nutzen. Wenn du wissen willst, ob ein KI-Werkzeug für eine Aufgabe taugt, lohnt sich ein Blick in den Abschnitt über Einschränkungen. Dort steht oft in wenigen Sätzen, was die Werbung verschweigt.