AI Act

Der AI Act ist ein Gesetz der Europäischen Union. Es regelt, wie Computerprogramme eingesetzt werden dürfen, die selbst aus Daten Muster lernen und daraus Entscheidungen oder Texte erzeugen. Solche Programme nennt man künstliche Intelligenz. Das Gesetz verbietet manche Einsatzzwecke ganz und erlaubt andere nur mit strengen Auflagen. Entscheidend ist dabei nicht die Technik selbst, sondern der Schaden, den ihr Einsatz anrichten kann. Die EU hat den AI Act 2024 beschlossen, die Regeln greifen gestuft bis 2027.

Das erste umfassende KI-Gesetz der Welt

Vor dem AI Act gab es in Europa kein Gesetz, das speziell für KI geschrieben war. Wer ein System zur Bewerberauswahl verkaufte, musste niemandem erklären, wie es zu seinen Urteilen kommt. Genau das ändert sich. Der AI Act ist die erste umfassende Regelung dieser Art weltweit.

Das hat Folgen weit über Europa hinaus. Der EU-Binnenmarkt ist zu groß, um ihn zu ignorieren. Also passen viele Firmen ihre Produkte gleich weltweit an die europäischen Vorgaben an, statt zwei Versionen zu pflegen. Fachleute nennen diesen Effekt den Brüssel-Effekt. Bei der Datenschutz-Grundverordnung, dem EU-Gesetz zum Schutz persönlicher Daten, hat er schon einmal funktioniert.

Umstritten ist das Gesetz trotzdem. Kritiker aus der Wirtschaft warnen, der Aufwand für Dokumentation und Prüfungen treffe kleine Firmen besonders hart. Verbraucherschützer halten dagegen einige Ausnahmen für zu weit gefasst, etwa bei der Nutzung durch Polizei und Behörden. Wie streng das Gesetz am Ende wirkt, entscheidet sich in der Praxis der Aufsichtsbehörden.

Vier Risikostufen als Ordnungsprinzip

Der AI Act sortiert Anwendungen in vier Stufen. Auf der obersten Stufe stehen verbotene Praktiken. Dazu gehört das Bewerten von Menschen nach ihrem allgemeinen Sozialverhalten, oft Social Scoring genannt. Auch Systeme, die Emotionen von Beschäftigten am Arbeitsplatz erkennen sollen, sind untersagt.

Die zweite Stufe heißt Hochrisiko. Hier geht es um Einsätze, die über das Leben von Menschen mitentscheiden: Bewerbungen sichten, Kredite bewerten, Prüfungen benoten, medizinische Diagnosen unterstützen. Verboten ist das nicht, aber an Pflichten gebunden. Der Anbieter muss die Trainingsdaten dokumentieren, Fehlerquellen prüfen, eine menschliche Kontrolle vorsehen und das System registrieren.

Die dritte Stufe umfasst Anwendungen mit begrenztem Risiko. Dort gilt vor allem eine Transparenzpflicht: Nutzer müssen erkennen können, dass sie mit einer Maschine sprechen oder ein künstlich erzeugtes Bild sehen. Alles andere fällt in die vierte Stufe und bleibt praktisch unreguliert, etwa ein Spamfilter oder eine Musikempfehlung. Zusätzlich gibt es eigene Regeln für sehr allgemein einsetzbare Modelle wie die hinter Chatbots. Deren Anbieter müssen unter anderem offenlegen, mit welchen Inhalten trainiert wurde.

Vom Bewerbungsverfahren bis zum Wasserzeichen

Im Alltag begegnet der AI Act meist unauffällig. Wenn ein Chatbot auf einer Firmenseite gleich zu Beginn schreibt, dass er ein KI-Assistent ist, steckt diese Pflicht dahinter. Auch Kennzeichnungen unter KI-erzeugten Bildern und Videos gehen darauf zurück. Solche Markierungen im Inhalt nennt man Wasserzeichen.

In den Wirtschaftsnachrichten tauchen andere Aspekte auf. Es geht um Fristen, um Bußgelder von bis zu sieben Prozent des weltweiten Jahresumsatzes und um die Frage, ob Europa sich mit dem Gesetz selbst ausbremst. Große Anbieter aus den USA haben mehrfach Verzögerungen bei der Einführung neuer Funktionen in der EU angekündigt. Für börsennotierte Technologiekonzerne ist der AI Act damit ein echter Kostenfaktor.

Ein häufiger Irrtum: Der AI Act verbietet keine Technologien, sondern Verwendungszwecke. Gesichtserkennung ist nicht pauschal illegal. Ihr Einsatz zur massenhaften Überwachung im öffentlichen Raum aber schon, mit engen Ausnahmen für schwere Straftaten. Wer beurteilen will, ob eine Anwendung erlaubt ist, muss also immer fragen, wofür sie genutzt wird.