System Card
Eine System Card ist ein öffentliches Begleitdokument, das ein Unternehmen zu einem neuen KI-System veröffentlicht. Sie beschreibt, was das System kann, wo es scheitert, wie es geprüft wurde und welche Sicherheitsvorkehrungen eingebaut sind.
Wenn ein Unternehmen ein neues Computerprogramm veröffentlicht, das Texte oder Bilder erzeugt, weiß zunächst niemand außerhalb des Hauses, wie gut es wirklich ist. Eine System Card ist das Dokument, das diese Lücke schließen soll. Darin beschreibt der Hersteller selbst, wofür das Programm gedacht ist und wofür ausdrücklich nicht. Er nennt außerdem typische Fehler, riskante Einsatzbereiche und die Tests, die er vor der Veröffentlichung durchgeführt hat. Solche Dokumente sind meist einige Dutzend Seiten lang und frei im Netz abrufbar. Man kann sie sich wie den Beipackzettel eines Medikaments vorstellen: Wirkung, Nebenwirkungen, Warnhinweise.
Warum Hersteller ihre eigenen Schwächen aufschreiben
KI-Systeme werden heute von Millionen Menschen genutzt, oft für Entscheidungen mit echten Folgen. Ein Programm, das medizinische Fragen beantwortet oder Bewerbungen vorsortiert, kann Schaden anrichten, wenn niemand seine Grenzen kennt. Ohne öffentliche Dokumentation bleibt nur Werbung: Hersteller zeigen die Ergebnisse, die gut aussehen. Eine System Card verpflichtet sie dazu, auch die unangenehmen Zahlen zu nennen.
Der zweite Grund ist Regulierung. Die EU hat mit dem KI-Gesetz, dem AI Act, Dokumentationspflichten für besonders einflussreiche Systeme eingeführt. Wer solche Systeme anbietet, muss Behörden und Nutzern erklären, wie sie funktionieren und getestet wurden. Viele Unternehmen veröffentlichen System Cards freiwillig, um dieser Pflicht zuvorzukommen. Das ist auch eine Frage des Rufs: Ein Anbieter ohne Dokumentation wirkt in der Fachwelt unseriös.
Wichtig ist die Abgrenzung zur älteren Model Card. Eine Model Card beschreibt nur das Modell, also den trainierten Kern. Eine System Card betrachtet das gesamte Produkt drumherum: Filter, Sperren, Zusatzwerkzeuge, die Bedienoberfläche. Diese Unterscheidung ist keine Spitzfindigkeit, denn viele Risiken entstehen erst im Zusammenspiel der Teile.
Was in so einem Dokument tatsächlich drinsteht
Am Anfang stehen meist die Grundangaben: Wann wurde das System veröffentlicht, welche Sprachen versteht es, welche Datenarten kann es verarbeiten. Danach folgen die Testergebnisse. Dafür lässt man das System standardisierte Aufgabensammlungen lösen, sogenannte Benchmarks, und gibt die Trefferquoten in Prozent an. Ein Wert von 85 Prozent bei Mathematikaufgaben klingt gut, bedeutet aber auch: Jede siebte Antwort ist falsch.
Der spannendste Teil ist die Risikoanalyse. Dafür engagieren Unternehmen Fachleute, die das System absichtlich angreifen. Dieses Vorgehen heißt Red Teaming, benannt nach der gegnerischen Mannschaft in militärischen Übungen. Die Tester versuchen etwa, dem System Bauanleitungen für Waffen zu entlocken oder es zu rassistischen Aussagen zu bringen. Die System Card berichtet dann, wie oft das gelang und was danach nachgebessert wurde.
Zum Schluss werden die Schutzmaßnahmen beschrieben. Dazu gehören Sperrlisten für heikle Themen, Kennzeichnungen erzeugter Bilder oder Obergrenzen für die Nutzung. Ein häufiger Irrtum ist, diese Dokumente für eine unabhängige Prüfung zu halten. Sie sind Selbstauskunft. Der Hersteller entscheidet, welche Tests er zeigt und welche er weglässt.
System Cards in Produktstarts und Börsenmeldungen
Praktisch jeder große Modellstart wird heute von einer System Card begleitet. OpenAI veröffentlichte solche Dokumente zu GPT-4 und den späteren Versionen, Anthropic und Google verfahren ähnlich. Wer sie liest, findet dort Details, die in Pressemitteilungen fehlen: etwa dass ein System bei bestimmten Sprachen deutlich schlechter abschneidet.
Für Finanznachrichten sind diese Dokumente inzwischen eine wichtige Quelle. Analysten lesen darin nach, ob ein neues Modell den beworbenen Vorsprung wirklich hat. Auch Journalisten stützen sich darauf, wenn sie über Risiken berichten. Manche Debatten entstehen erst durch eine System Card, weil der Hersteller darin ein Problem einräumt, über das sonst niemand gesprochen hätte.
Für Unternehmen, die KI einkaufen, ist das Dokument die Grundlage der Prüfung. Eine Krankenkasse oder Bank muss belegen können, warum sie ein bestimmtes System für zulässig hält. Fehlt eine System Card, fehlt dieser Beleg. Deshalb wird das Dokument zunehmend zur Voraussetzung für den Verkauf und nicht bloß zur freundlichen Beigabe.