Emotional AI

Emotional AI ist ein Sammelbegriff für Computerprogramme, die menschliche Gefühle erkennen, einordnen oder nachahmen sollen. Solche Programme werten aus, was ein Mensch zeigt: den Gesichtsausdruck auf einem Kamerabild, den Klang einer Stimme, die Wortwahl in einer Nachricht. Daraus berechnen sie eine Einschätzung, etwa „wirkt verärgert“ oder „wirkt zufrieden“. Wichtig ist der Unterschied zwischen Zeigen und Fühlen: Die Software misst nur äußere Signale, nicht das innere Erleben. Der ältere Fachausdruck dafür lautet Affective Computing, also „Rechnen mit Gefühlen“. Er stammt aus den 1990er-Jahren vom Massachusetts Institute of Technology, einer bekannten US-Hochschule.

Warum Firmen auf Gefühlsmessung setzen

Gefühle sind für Unternehmen wertvolle Information. Ein Callcenter möchte wissen, welche Kunden kurz vor dem Wutanruf stehen. Ein Werbetreibender möchte wissen, ob ein Spot langweilt oder fesselt. Menschen zu befragen ist teuer und ungenau, weil Befragte oft beschönigen. Eine automatische Messung verspricht Antworten in Echtzeit und für tausende Personen gleichzeitig.

Gleichzeitig ist Emotional AI eine der umstrittensten KI-Anwendungen überhaupt. Die Psychologin Lisa Feldman Barrett und Kolleginnen haben 2019 über 1000 Studien ausgewertet. Ihr Ergebnis: Von einem Gesichtsausdruck lässt sich nicht zuverlässig auf ein Gefühl schließen. Ein Stirnrunzeln kann Ärger bedeuten, Konzentration oder schlicht grelles Licht. Kulturelle Unterschiede kommen hinzu, ebenso Unterschiede zwischen einzelnen Menschen.

Deshalb greift auch die Politik ein. Die KI-Verordnung der Europäischen Union, in Kraft seit 2024, verbietet Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen weitgehend. Der Gesetzgeber fürchtet Überwachung und falsche Bewertungen. In anderen Bereichen bleibt der Einsatz erlaubt, gilt aber als Hochrisiko-Anwendung mit strengen Auflagen.

Von Pixeln und Tonspuren zur Gefühlsetikette

Technisch ist Emotional AI meist ein Klassifizierungsproblem. Das System bekommt Eingaben und ordnet sie einer von wenigen Kategorien zu, oft Freude, Wut, Trauer, Angst, Ekel, Überraschung, neutral. Trainiert wird es mit Beispielmaterial, das Menschen vorher von Hand beschriftet haben. Zeigt man dem Programm hunderttausende Bilder mit solchen Etiketten, lernt es statistische Zusammenhänge zwischen Bildmerkmalen und Etikett.

Bei Gesichtern nutzen viele Systeme das Facial Action Coding System. Das ist ein Katalog kleiner Muskelbewegungen, etwa „äußerer Augenbrauenheber“. Bei Stimmen wertet die Software Tonhöhe, Lautstärke, Sprechtempo und Pausen aus. Bei Texten schaut sie auf Wörter und Satzbau, was man Sentimentanalyse nennt. Manche Systeme kombinieren mehrere Kanäle, weil eine einzelne Quelle zu unsicher ist.

Ein häufiger Irrtum: Die Ausgabe klingt objektiv, ist es aber nicht. Wenn das Programm „87 Prozent Wut“ meldet, heißt das nur, dass die Eingabe den Trainingsbeispielen ähnelt, die Menschen als Wut beschriftet haben. Stammen diese Beispiele überwiegend von gestellten Aufnahmen aus einem einzigen Land, versagt das System bei echten Gefühlen anderswo. Studien fanden zudem, dass manche Systeme Gesichter dunkelhäutiger Personen häufiger als aggressiv einstuften.

Wo die Technik heute steckt

Am weitesten verbreitet ist Emotional AI im Kundenservice. Software analysiert laufende Telefonate und blendet dem Mitarbeiter Hinweise ein, wenn ein Gespräch zu kippen droht. Anbieter wie Cogito oder Uniphore verkaufen genau das. Auch Marktforscher setzen Kameras ein, die Testpersonen beim Ansehen von Werbung beobachten.

Autos sind ein zweiter großer Markt. Kamerasysteme im Innenraum sollen erkennen, ob eine Fahrerin müde wird oder abgelenkt ist. In der EU sind Müdigkeitswarner für Neuwagen inzwischen vorgeschrieben. Diese Systeme messen allerdings vor allem Lidschlag und Blickrichtung, nicht Gefühle im engeren Sinn.

In News taucht der Begriff meist in zwei Zusammenhängen auf. Erstens bei Streit über Überwachung, etwa wenn Behörden Emotionserkennung an Grenzen testen. Zweitens bei Sprachassistenten, deren Stimmen inzwischen Wärme oder Mitgefühl nachahmen. Dieses Nachahmen ist die zweite Hälfte des Begriffs: Ein System muss Gefühle nicht erkennen, um sie zu simulieren.