Section 5 FTC Act

Die USA haben kein umfassendes KI-Gesetz. Trotzdem können Behörden dort gegen Firmen vorgehen, die mit künstlicher Intelligenz Kunden täuschen. Möglich macht das ein Gesetz von 1914: der Federal Trade Commission Act, kurz FTC Act. Sein fünfter Abschnitt – auf Englisch Section 5 – verbietet Unternehmen zwei Dinge sehr allgemein: unfaire Geschäftspraktiken und irreführende Geschäftspraktiken. Zuständig für die Durchsetzung ist die Federal Trade Commission, die US-Handelsbehörde, die etwa den Aufgaben deutscher Wettbewerbs- und Verbraucherschutzbehörden entspricht. Weil die Formulierung so weit gefasst ist, lässt sie sich auf Produkte anwenden, die es 1914 noch lange nicht gab.

Warum ein Gesetz von 1914 KI-Firmen betrifft

In Europa regelt der AI Act detailliert, was KI-Systeme dürfen und was nicht. In den USA gibt es kein vergleichbares Bundesgesetz. Section 5 füllt diese Lücke. Sie schreibt keine technischen Anforderungen vor, sondern setzt bei den Aussagen an, die ein Unternehmen über sein Produkt macht. Wer behauptet, seine Software erkenne Bewerber-Talent oder Krankheiten zuverlässig, muss das belegen können.

Für Anleger und Beobachter ist das aus einem zweiten Grund wichtig. Die Behörde hat ein ungewöhnlich hartes Mittel entwickelt: die sogenannte Algorithmen-Löschung. Ein Unternehmen muss dann nicht nur unrechtmäßig gesammelte Daten vernichten, sondern auch die Modelle, die damit trainiert wurden. Ein trainiertes Modell kann Millionen gekostet haben. Diese Drohung trifft ein KI-Startup härter als eine Geldstrafe.

Ein häufiger Irrtum ist, Section 5 gelte nur für amerikanische Firmen. Entscheidend ist der Markt, nicht der Firmensitz. Ein deutsches Unternehmen, das seine KI-Software an US-Kunden verkauft, fällt ebenfalls darunter.

Unfair und irreführend: die zwei Hebel der Vorschrift

Der Begriff „irreführend“ ist der leichtere Vorwurf. Er greift, wenn eine Aussage einen vernünftigen Verbraucher in einem wichtigen Punkt in die Irre führt. Absicht muss die Behörde nicht nachweisen. Es reicht, dass die Werbeaussage nicht stimmt oder dass wichtige Einschränkungen verschwiegen wurden. Typische Fälle: erfundene Genauigkeitsangaben, ein angeblich automatisierter Dienst, hinter dem in Wahrheit Menschen sitzen, oder Chatbots, die sich als echte Personen ausgeben.

„Unfair“ ist der schwerere Vorwurf und verlangt drei Nachweise. Die Praxis muss Verbrauchern erheblichen Schaden zufügen. Der Schaden muss für sie vernünftigerweise vermeidbar gewesen sein. Und er darf nicht durch einen größeren Nutzen aufgewogen werden. Hierunter fallen etwa Systeme, die ohne ausreichende Tests eingesetzt werden und Menschen systematisch benachteiligen.

Am Ende eines Verfahrens steht meist kein Urteil, sondern ein Vergleich. Das Unternehmen zahlt, ändert sein Verhalten und akzeptiert eine jahrelange Aufsicht. Diese Vergleiche sind für andere Firmen so etwas wie inoffizielle Regeln. Sie zeigen, welche Grenzen die Behörde zieht, ohne dass ein Parlament sie beschlossen hätte.

Von Rytr bis Rite Aid: die Vorschrift in den Nachrichten

Unter dem Stichwort „Operation AI Comply“ hat die FTC 2024 mehrere Verfahren gebündelt. Betroffen waren unter anderem Anbieter, die Kunden angeblich KI-gestützte Onlineshops mit garantiertem Einkommen verkauften. Gegen den Schreibdienst Rytr ging die Behörde vor, weil dessen Werkzeug massenhaft erfundene Produktbewertungen erzeugen konnte. Ein weiterer bekannter Fall betraf die Drogeriekette Rite Aid und deren Gesichtserkennung in Filialen, die Kunden fälschlich als Ladendiebe markierte.

In der Berichterstattung taucht Section 5 deshalb fast immer dann auf, wenn in den USA ein KI-Unternehmen Ärger mit Behörden bekommt. Wer Quartalsberichte großer Tech-Konzerne liest, findet den Verweis auch dort, im Abschnitt zu regulatorischen Risiken. Für Firmen bedeutet das vor allem eines: Marketingaussagen über KI-Fähigkeiten sollten belegbar sein. „AI washing“, also das übertriebene Bewerben simpler Software als künstliche Intelligenz, ist genau der Fall, den die Vorschrift trifft.