Risikoklassifizierung
Die Risikoklassifizierung teilt Anwendungen künstlicher Intelligenz danach ein, wie viel Schaden sie anrichten können. Je höher die Stufe, desto strengere Regeln muss der Anbieter einhalten – von gar keinen Auflagen bis zum vollständigen Verbot.
Nicht jedes Computerprogramm, das selbstständig Entscheidungen vorschlägt, ist gleich gefährlich. Ein Filter, der Werbemails aussortiert, kann wenig Schaden anrichten. Ein Programm, das über Kredite oder Bewerbungen mitentscheidet, greift dagegen tief in ein Leben ein. Die Risikoklassifizierung ist der Versuch, diesen Unterschied in Regeln zu fassen. Sie sortiert Anwendungen in Stufen ein, und an jeder Stufe hängen bestimmte Pflichten für den Anbieter. Der Grundgedanke: nicht die Technik selbst wird bewertet, sondern der Zweck, für den sie eingesetzt wird.
Vier Stufen im europäischen KI-Gesetz
Die Europäische Union hat 2024 ein Gesetz für künstliche Intelligenz beschlossen, kurz AI Act. Es ist weltweit das erste umfassende Regelwerk dieser Art. Sein Kern ist genau diese Einteilung in Risikoklassen. Vergleichbare Ansätze gibt es in anderen Bereichen längst: Medikamente und Lebensmittelzusätze werden ebenfalls nach ihrem Gefahrenpotenzial reguliert, nicht pauschal.
Der AI Act kennt vier Stufen. Ganz unten steht das minimale Risiko, etwa ein Spamfilter oder ein Gegner in einem Videospiel. Hier gilt praktisch nichts Besonderes. Darüber liegt das begrenzte Risiko mit Transparenzpflichten: Wer mit einem Chatbot spricht, muss das erfahren, und künstlich erzeugte Bilder sollen gekennzeichnet werden. Die dritte Stufe, das hohe Risiko, betrifft Anwendungen in der Medizin, im Personalwesen, bei Krediten, in Schulen oder bei der Polizei. Ganz oben stehen verbotene Praktiken, zum Beispiel eine staatliche Bewertung des Sozialverhaltens von Bürgern.
Für Unternehmen entscheidet die Einstufung über sehr viel Geld. Ein Hochrisiko-System braucht eine dokumentierte Risikoanalyse, geprüfte Trainingsdaten, menschliche Aufsicht und eine Registrierung in einer EU-Datenbank. Bei Verstößen drohen Bußgelder in Millionenhöhe. Deshalb wird an den Grenzen zwischen den Klassen hart gestritten – ein Wechsel der Stufe kann ein Produkt unrentabel machen.
Wie eine Einstufung zustande kommt
Zuerst wird gefragt, wofür das System konkret dient. Dieselbe Bilderkennung kann harmlos oder hochriskant sein. Sortiert sie Urlaubsfotos, ist sie unkritisch. Erkennt sie Gesichter in einer Menschenmenge für die Polizei, gilt sie als hochriskant oder ist sogar verboten. Der Zweck entscheidet, nicht der Programmcode.
Der AI Act arbeitet dafür mit Listen. In einem Anhang sind die Einsatzbereiche aufgezählt, die als hochriskant gelten. Wer ein System entwickelt, prüft es gegen diese Liste. Zusätzlich gibt es Ausnahmen: Wenn eine Anwendung in einem gelisteten Bereich nur eine kleine Hilfsaufgabe erfüllt, kann sie herausfallen. Diese Selbsteinschätzung muss der Anbieter dokumentieren und auf Nachfrage vorlegen.
Ein häufiger Irrtum ist, dass große Sprachmodelle automatisch hochriskant seien. Für sie gilt ein eigenes Regelwerk mit Pflichten für die Entwickler. Erst wenn jemand ein solches Modell in einen kritischen Bereich einbaut, greift die Hochrisiko-Einstufung. Verantwortlich ist dann meist der Betreiber der Anwendung, nicht allein der Modellhersteller.
Was Nutzer und Anleger davon mitbekommen
Im Alltag zeigt sich die Risikoklassifizierung an kleinen Hinweisen. Ein Chatfenster, das offenlegt, dass hier eine Maschine antwortet. Ein Vermerk unter einem Bild, dass es künstlich erzeugt wurde. Solche Kennzeichnungen sind keine Höflichkeit der Anbieter, sondern Folge der Transparenzpflichten in der zweiten Stufe.
In Wirtschaftsnachrichten taucht der Begriff auf, wenn Unternehmen über Regulierungskosten klagen oder wenn ein Anbieter eine Funktion in Europa später oder gar nicht startet. Für Anleger ist die Einstufung eine Risikokennzahl: Ein Geschäftsmodell, das ganz auf Hochrisiko-Anwendungen aufbaut, trägt dauerhaft höhere Prüf- und Haftungskosten. Auch Investoren fragen daher inzwischen nach der Klassifizierung eines Produkts.
Die Regeln greifen zeitlich versetzt. Die Verbote gelten seit Anfang 2025, die Pflichten für Hochrisiko-Systeme folgen in Schritten bis 2027. Wer heute Meldungen über den AI Act liest, sollte deshalb immer mitlesen, welche Stufe gemeint ist und ab wann sie wirkt.