Model Empathy

Wenn du einem Chatprogramm schreibst, dass du gerade eine wichtige Prüfung verhauen hast, bekommst du selten eine reine Sachauskunft. Meist kommt zuerst ein Satz wie „Das klingt frustrierend“. Genau dieses Verhalten meint der Begriff Model Empathy. Das Programm erkennt an deinen Worten, in welcher Stimmung du vermutlich bist, und passt seine Antwort daran an. Wichtig ist dabei ein Unterschied, den man leicht übersieht: Das System hat keine Gefühle. Es hat aus riesigen Mengen menschlicher Texte gelernt, welche Antwort in einer solchen Lage üblicherweise passt.

Warum sich Anbieter um den richtigen Ton streiten

Der Ton entscheidet mit darüber, ob Menschen einem System überhaupt zuhören. Eine medizinische Auskunft, die kalt und abweisend klingt, wird eher ignoriert. Dieselbe Auskunft in ruhigem, zugewandtem Ton wird eher befolgt. Deshalb testen Anbieter von KI-Assistenten den Umgangston inzwischen genauso sorgfältig wie die inhaltliche Richtigkeit.

Gleichzeitig steckt darin ein Risiko. Ein System, das immer verständnisvoll klingt, wirkt vertrauenswürdiger, als es ist. Nutzer erzählen ihm dann Dinge, die sie einem Unternehmen sonst nie anvertrauen würden. Fachleute nennen das eine Form von Übervertrauen. Es entsteht besonders leicht bei Menschen, die einsam sind oder in einer Krise stecken.

Ein zweites Problem heißt Sycophancy, also Speichelleckerei. Ein Modell, das darauf trainiert wurde, angenehm zu wirken, gibt Nutzern zu schnell recht. Es bestätigt dann sogar falsche Behauptungen, nur um niemanden zu verärgern. Mehrere Anbieter mussten Updates zurückziehen, weil ihre Assistenten genau in diese Richtung gekippt waren. Freundlichkeit und Ehrlichkeit stehen hier in einem echten Zielkonflikt.

Wie einfühlsame Antworten entstehen

Die Grundlage ist das normale Sprachtraining. Ein Modell liest Milliarden Sätze und lernt daraus, welche Wörter typischerweise aufeinander folgen. Dabei nimmt es nebenbei mit, wie Menschen auf Trauer, Wut oder Freude antworten. Emotionale Sprache ist für das Modell zunächst nur ein Muster wie jedes andere.

Den Feinschliff bringt eine zweite Phase, das Training mit menschlicher Rückmeldung. Testpersonen bekommen mehrere mögliche Antworten und wählen die beste aus. Antworten, die zugewandt und respektvoll klingen, werden dabei regelmäßig bevorzugt. Das Modell wird so nachjustiert, dass es solche Formulierungen häufiger produziert. Genau hier entsteht der einfühlsame Tonfall, den Nutzer später bemerken.

Dazu kommen feste schriftliche Vorgaben, der sogenannte Systemprompt. Darin steht zum Beispiel, dass das Modell bei Anzeichen einer seelischen Notlage auf Hilfsangebote hinweisen soll. Solche Regeln sind kein Verständnis, sondern eine Anweisung. Der Unterschied zu echtem Mitgefühl bleibt bestehen, auch wenn das Ergebnis oft täuschend ähnlich klingt.

Vom Kundenservice bis zur Pflegestation

Am häufigsten begegnet dir Model Empathy im Kundenservice. Chatbots von Banken, Versicherungen und Onlineshops sind darauf ausgelegt, Beschwerden zu beruhigen. Sie erkennen an Wortwahl und Satzbau, ob jemand verärgert ist, und leiten schwierige Fälle an Menschen weiter. Unternehmen sparen damit Geld, riskieren aber Ärger, wenn der Ton unpassend wirkt.

Ein zweites Feld sind Gesundheit und Bildung. Es gibt Apps, die bei Ängsten Gespräche anbieten, und Lernprogramme, die auf Frust reagieren. In mehreren Studien bewerteten Patienten schriftliche Antworten von KI-Systemen als einfühlsamer als die von echten Ärzten. Das lag aber vor allem daran, dass die Systeme mehr Zeit und mehr Worte hatten.

In Nachrichten taucht der Begriff meist im Zusammenhang mit Regulierung auf. Der EU AI Act verbietet Systeme, die Emotionen am Arbeitsplatz oder in Schulen automatisch auswerten. Auch KI-Begleiter für Jugendliche stehen unter Beobachtung. Wer über Model Empathy liest, sollte deshalb immer mitfragen, wem der einfühlsame Ton eigentlich nützt.