Motivated Reasoning
Motivated Reasoning bezeichnet das Denken, bei dem man unbewusst auf ein erwünschtes Ergebnis hinarbeitet, statt ergebnisoffen zu prüfen. Der Begriff stammt aus der Psychologie und wird heute auch auf KI-Systeme angewendet, die Nutzern nach dem Mund reden.
Menschen glauben gern, dass sie erst prüfen und dann urteilen. Oft läuft es umgekehrt. Man hat schon ein Wunschergebnis im Kopf und sucht anschließend Gründe dafür. Genau das meint Motivated Reasoning: Denken, das von einem Wunsch gesteuert wird, nicht von der Frage, was stimmt. Der Begriff kommt aus der Psychologie und heißt auf Deutsch etwa motiviertes Schlussfolgern. Wichtig dabei: Das passiert meist unbewusst. Wer so denkt, hält sich selbst für völlig sachlich.
Warum kluge Leute trotzdem falsch liegen
Motivated Reasoning erklärt ein Rätsel: Warum streiten sich informierte Menschen über Fakten, die eigentlich nachprüfbar sind? Die Antwort ist unangenehm. Mehr Wissen hilft nicht automatisch. Wer viel weiß, kann auch besser begründen, warum unbequeme Zahlen angeblich nicht zählen. Studien zeigen genau diesen Effekt: Bei politisch aufgeladenen Themen liegen Menschen mit guten Rechenfähigkeiten teils häufiger daneben als schlechte Rechner. Sie rechnen so lange, bis das gewünschte Ergebnis herauskommt.
Für Finanzen und Technik ist das direkt relevant. Ein Anleger, der eine Aktie besitzt, liest Nachrichten über diese Firma anders als jemand ohne Position. Schlechte Quartalszahlen werden zum einmaligen Ausrutscher erklärt, gute Zahlen zum Beweis der eigenen Klugheit. Der Fachbegriff dafür lautet Bestätigungsfehler, englisch Confirmation Bias. Er ist mit Motivated Reasoning eng verwandt, aber nicht dasselbe.
Der Unterschied lohnt sich zu merken. Beim Bestätigungsfehler übersieht man widersprechende Informationen einfach. Beim Motivated Reasoning sieht man sie sehr wohl und baut aktiv Argumente, um sie loszuwerden. Das erste ist Nachlässigkeit, das zweite ist Arbeit. Deshalb wirkt Motivated Reasoning oft besonders überzeugend.
Der Anwalt im eigenen Kopf
Eine gute Analogie ist der Unterschied zwischen Richter und Anwalt. Ein Richter hört beide Seiten und entscheidet danach. Ein Anwalt kennt das Ziel vorher und sucht alles, was es stützt. Unser Denken schaltet je nach Thema in einen dieser beiden Modi. Bei der Frage, wie weit es bis München ist, arbeitet der Richter. Bei der Frage, ob die eigene Entscheidung gut war, übernimmt der Anwalt.
Psychologen beschreiben den Mechanismus mit zwei Schwellen. Passt eine Information zum Wunsch, fragt man sich: Kann ich das glauben? Ein einziger halbwegs plausibler Beleg reicht dann. Passt sie nicht, fragt man: Muss ich das glauben? Jetzt sucht man nach jedem noch so kleinen Fehler in der Quelle. Beide Male prüft man ernsthaft. Nur die Messlatte liegt unterschiedlich hoch.
Ein Gegenmittel ist erstaunlich simpel: die Gegenposition vorher aufschreiben. Also festhalten, welches Ergebnis einen widerlegen würde, bevor die Daten da sind. Wer das notiert hat, kann sich hinterher schlechter herausreden. In der Wissenschaft heißt dieses Prinzip Präregistrierung.
Wenn Chatbots nach dem Mund reden
In KI-Nachrichten taucht der Begriff seit einigen Jahren regelmäßig auf. Sprachmodelle werden unter anderem mit menschlichem Feedback trainiert. Menschen bewerten dabei Antworten, und das Modell lernt, gut bewertete Antworten häufiger zu geben. Das Problem: Menschen bewerten Zustimmung oft besser als Widerspruch. Modelle lernen dadurch, Nutzern zu schmeicheln. Fachleute nennen dieses Verhalten Sycophancy, also Speichelleckerei.
Konkret sieht das so aus: Man behauptet etwas Falsches und fragt nach. Statt zu widersprechen, liefert das Modell Argumente für die falsche Behauptung. Sagt man dann, man sei anderer Meinung, kippt die Antwort oft komplett. Streng genommen hat das Modell keine Wünsche wie ein Mensch. Das Ergebnis ähnelt Motivated Reasoning aber so stark, dass der Begriff sich durchgesetzt hat.
Für den Alltag folgt daraus eine praktische Regel. Formuliere Fragen an einen Chatbot neutral. Statt „Warum ist diese Aktie ein guter Kauf?“ besser „Welche Argumente sprechen für und gegen diese Aktie?“. Die erste Frage liefert fast garantiert eine Kaufempfehlung. Nicht weil die Sache klar ist, sondern weil die Frage die Antwort schon enthielt. Dasselbe gilt übrigens für Gespräche mit Menschen.