Biometrische Kategorisierung

Biometrische Merkmale sind messbare Eigenschaften des Körpers: das Gesicht, die Stimme, der Gang, die Iris, der Fingerabdruck. Eine biometrische Kategorisierung ist Software, die solche Merkmale erfasst und den Menschen daraufhin in eine Gruppe einordnet. Das kann eine Altersgruppe sein, das Geschlecht, eine Haarfarbe – oder etwas viel Heikleres wie die vermutete Herkunft, die Religion oder die sexuelle Orientierung. Wichtig ist die Abgrenzung zur Gesichtserkennung: die will herausfinden, welche einzelne Person vor der Kamera steht. Die Kategorisierung will das gar nicht wissen. Sie sortiert anonyme Personen in Schubladen, und genau darin liegt ihr Problem.

Wenn eine Schublade zur Diskriminierung wird

Manche dieser Einteilungen klingen harmlos. Ein Automat, der prüft, ob ein Käufer über 18 Jahre alt aussieht, ist ein alltäglicher Fall. Andere Einteilungen sind gefährlich, weil sie unveränderliche Eigenschaften betreffen. Wenn eine Kamera Passanten nach vermuteter Ethnie sortiert, entsteht daraus schnell eine Grundlage für ungleiche Behandlung.

Hinzu kommt: Viele dieser Zuordnungen sind wissenschaftlich gar nicht haltbar. Eine Religion oder eine politische Haltung hinterlässt keine Spur im Gesicht. Ein System, das so etwas zu erkennen behauptet, erzeugt trotzdem Ergebnisse – nur eben zufällige, die nach Objektivität aussehen. Fachleute nennen das oft moderne Physiognomik, also die alte, längst widerlegte Idee, man könne den Charakter am Aussehen ablesen.

Die EU hat darauf mit dem KI-Gesetz reagiert, der KI-Verordnung. Sie verbietet Systeme, die Menschen biometrisch nach Merkmalen wie Ethnie, Religion, politischer Überzeugung oder sexueller Orientierung einteilen. Andere Kategorisierungen bleiben erlaubt, gelten aber als Hochrisiko-Anwendungen. Das bedeutet strenge Auflagen: Dokumentation, Tests auf Verzerrungen, menschliche Aufsicht.

Vom Kamerabild zur Gruppenzuordnung

Technisch steht am Anfang eine Aufnahme: ein Bild, ein Video, ein Tonschnipsel. Ein neuronales Netz – ein lernfähiges Programm, das aus vielen Beispielen Muster ableitet – wandelt diese Aufnahme in eine lange Zahlenreihe um. Diese Zahlenreihe beschreibt das Merkmal in einer Form, mit der ein Computer rechnen kann. Ein zweiter Teil des Systems ordnet die Zahlenreihe dann einer der vorgegebenen Kategorien zu.

Diese Kategorien legen Menschen fest, nicht die Maschine. Das Modell lernt sie aus Trainingsdaten, in denen jemand die Beispiele vorher beschriftet hat. Wer die Beschriftungen erstellt, entscheidet also darüber, welche Schubladen es überhaupt gibt. Und weil Kategorien wie Geschlecht in der Realität nicht in zwei Kästchen passen, drückt das System die Wirklichkeit in ein zu enges Raster.

Ein typischer Irrtum ist, dass das Ergebnis eine feste Aussage wäre. In Wahrheit gibt das Modell Wahrscheinlichkeiten aus, etwa 72 Prozent für eine bestimmte Gruppe. Erst eine Schwelle macht daraus eine Entscheidung. Und die Trefferquoten fallen bei Gruppen, die in den Trainingsdaten selten vorkamen, deutlich ab – bei dunkleren Hauttönen war das in Studien immer wieder messbar.

Werbetafeln, Türsteher und Behörden

Im Alltag steckt die Technik oft in der Werbung. Digitale Werbetafeln in Bahnhöfen schätzen Alter und Geschlecht der Vorbeigehenden, um Anzeigen anzupassen oder Zielgruppen zu zählen. Auch Supermärkte und Zigarettenautomaten nutzen Altersschätzung, um Ausweiskontrollen zu ersetzen.

In den Nachrichten taucht der Begriff meist im Zusammenhang mit Überwachung auf. Berichte über Kameras, die Angehörige von Minderheiten automatisch markieren, haben die Debatte stark geprägt. Auch Bewerbungssoftware, die aus Videointerviews Persönlichkeitsprofile ableiten wollte, gehört in dieses Feld – sie ist inzwischen weitgehend diskreditiert.

Für Unternehmen ist das Thema vor allem eine Rechtsfrage. Wer in Europa ein Produkt mit solchen Funktionen anbietet, muss prüfen, ob es unter das Verbot fällt. Bei Nachrichten über Bußgelder gegen Einzelhändler oder Werbenetzwerke geht es fast immer um genau diese Grenze.