EU AI Act

Der EU AI Act ist ein Gesetz der Europäischen Union für den Umgang mit künstlicher Intelligenz, also mit Computerprogrammen, die aus Daten Muster lernen und daraufhin Entscheidungen oder Texte erzeugen. Es wurde 2024 verabschiedet und gilt in allen EU-Mitgliedstaaten unmittelbar. Der Grundgedanke ist einfach: Nicht jede Software mit KI ist gleich gefährlich. Ein Musikempfehlungsdienst und ein Programm, das über Bewerbungen mitentscheidet, werden deshalb völlig unterschiedlich behandelt. Das Gesetz teilt Anwendungen in Risikostufen ein und knüpft an jede Stufe eigene Regeln. Manche Einsätze sind ganz verboten, andere brauchen nur einen Hinweis an die Nutzer.

Weltweit das erste umfassende KI-Gesetz

Der AI Act ist das erste breit angelegte KI-Gesetz eines großen Wirtschaftsraums. Das macht ihn auch außerhalb Europas relevant. Wer seine Produkte auf dem EU-Markt anbieten will, muss sich daran halten, egal ob die Firma in Kalifornien oder Shenzhen sitzt. Viele Unternehmen bauen ihre Software dann nur einmal – und zwar nach den europäischen Regeln.

Für Anleger und Firmen sind vor allem die Kosten interessant. Wer ein System in der höchsten geregelten Risikoklasse anbietet, muss Dokumentation führen, Datenqualität nachweisen und menschliche Kontrolle sicherstellen. Bei Verstößen drohen Bußgelder, die bis in den Bereich von 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes reichen können. Solche Summen tauchen regelmäßig in Quartalsberichten und Risikohinweisen auf.

Es gibt aber auch Kritik. Ein Teil der europäischen Tech-Branche fürchtet, dass der Aufwand kleine Firmen härter trifft als große Konzerne mit eigenen Rechtsabteilungen. Andere halten klare Regeln für einen Vorteil, weil sie Vertrauen schaffen und Rechtsstreit vermeiden.

Die vier Risikostufen

Die oberste Stufe heißt unannehmbares Risiko. Diese Anwendungen sind verboten. Dazu gehören etwa das Bewerten von Menschen nach ihrem sozialen Verhalten durch Behörden oder Systeme, die Menschen gezielt manipulieren. Auch das massenhafte Auslesen von Gesichtern aus dem Internet für Erkennungsdatenbanken fällt darunter.

Die zweite Stufe ist das hohe Risiko. Hier geht es um KI, die über wichtige Dinge im Leben von Menschen mitentscheidet: Bewerbungen, Kreditvergabe, Prüfungsbewertung, Medizintechnik. Solche Systeme bleiben erlaubt, aber der Anbieter muss belegen, dass er Risiken geprüft hat. Er muss außerdem dafür sorgen, dass ein Mensch die Ergebnisse überwachen kann.

Darunter liegt die Stufe mit Transparenzpflichten. Ein Chatbot muss offenlegen, dass er eine Maschine ist. Künstlich erzeugte Bilder oder Videos müssen als solche gekennzeichnet werden. Die vierte Stufe umfasst alles Übrige, etwa Spamfilter oder Spieleempfehlungen, und bleibt praktisch unreguliert. Zusätzlich gibt es Sonderregeln für sehr große Allzweckmodelle, wie sie hinter bekannten Chatprogrammen stecken.

Was sich für Nutzer und Firmen ändert

Im Alltag merkt man den AI Act zuerst an Hinweisen. Wenn dir eine Website mitteilt, dass du mit einem automatischen Assistenten sprichst, ist das eine Folge dieser Transparenzpflicht. Auch die Kennzeichnung von KI-generierten Bildern in sozialen Netzwerken geht teils darauf zurück. Bei einer abgelehnten Kreditanfrage hast du zudem eher einen Anspruch darauf zu erfahren, dass und wie eine Software beteiligt war.

In Wirtschaftsnachrichten begegnet dir der Begriff meist in zwei Zusammenhängen. Erstens bei Fristen: Die Regeln greifen gestaffelt, die Verbote gelten seit Anfang 2025, die Pflichten für Hochrisiko-Systeme folgen später. Zweitens bei Streit darüber, ob Europa sich mit dem Gesetz im Wettbewerb selbst bremst.

Ein häufiger Irrtum ist, der AI Act verbiete KI oder bestimmte Modelle allgemein. Das trifft nicht zu. Reguliert wird der Einsatzzweck, nicht die Technik an sich. Dasselbe Bilderkennungsmodell darf Fotos in einer Galerie sortieren, unterliegt aber strengen Auflagen, sobald es zur Überwachung im öffentlichen Raum genutzt wird.