Metakognitives Feedback
Metakognitives Feedback ist eine Rückmeldung, die sich nicht auf die Antwort selbst bezieht, sondern auf den Weg dorthin und auf die eigene Sicherheit dabei. In der KI-Entwicklung bezeichnet der Begriff Verfahren, bei denen ein System sein eigenes Vorgehen bewertet und daraus lernt.
Normales Feedback sagt nur, ob ein Ergebnis richtig oder falsch war. Metakognitives Feedback geht einen Schritt weiter. Es bewertet, wie jemand zu diesem Ergebnis gekommen ist und wie sicher er sich dabei war. Der Begriff stammt ursprünglich aus der Lernforschung: Metakognition bedeutet Nachdenken über das eigene Denken. In der Arbeit mit Computerprogrammen, die aus Daten lernen, ist daraus ein eigenes Verfahren geworden. Solche Programme werden Modelle genannt, und sie sollen nicht nur Antworten liefern, sondern auch einschätzen, wie verlässlich diese Antworten sind.
Warum Selbsteinschätzung über Vertrauen entscheidet
Sprachmodelle wie ChatGPT formulieren falsche Antworten oft genauso überzeugt wie richtige. Fachleute nennen das Overconfidence, also übertriebene Selbstsicherheit. Für Nutzer ist das gefährlich, weil der Ton keinen Hinweis auf die Qualität gibt. Ein Modell, das sagt „das weiß ich nicht sicher“, ist praktisch oft wertvoller als eines, das immer entschieden klingt.
Genau hier setzt metakognitives Feedback an. Es trainiert nicht nur die Antwort, sondern auch die Selbsteinschätzung. Ziel ist ein System, dessen Sicherheit zur tatsächlichen Trefferquote passt. Wenn ein Modell bei tausend Aussagen jeweils 90 Prozent Sicherheit angibt, sollten ungefähr 900 davon stimmen. Fachleute nennen diese Übereinstimmung Kalibrierung.
Wichtig ist der Unterschied zu einer bloßen Fehlerkorrektur. Wer einem Schüler nur die richtige Lösung hinlegt, hat ihm wenig beigebracht. Wer erklärt, an welcher Stelle des Rechenwegs der Denkfehler saß, verhindert denselben Fehler beim nächsten Mal. Für Modelle gilt dasselbe Prinzip, nur in großem Maßstab.
Vom Rechenweg zur Bewertung des Rechenwegs
Technisch beginnt das Verfahren meist damit, dass ein Modell seine Zwischenschritte ausschreibt. Diese Kette aus Teilüberlegungen heißt Chain of Thought, also Gedankenkette. Statt sofort das Ergebnis zu nennen, notiert das Modell erst die einzelnen Schritte. Dadurch entsteht überhaupt etwas, das man bewerten kann.
Anschließend prüft ein zweiter Durchgang diese Kette. Das kann ein Mensch tun, ein separates Prüfmodell oder das Modell selbst in einer neuen Runde. Bewertet wird jeder Schritt einzeln, nicht nur das Endergebnis. Fachleute sprechen dann von einem prozessbasierten Belohnungssignal, im Gegensatz zum ergebnisbasierten. Der Unterschied ist erheblich: Ein Modell kann durch Raten die richtige Zahl treffen, obwohl der Weg dorthin völlig unsinnig war.
Ein zweiter Baustein sind Sicherheitsangaben. Das Modell soll zu jeder Aussage angeben, wie überzeugt es ist. Im Training wird dann belohnt, wenn hohe Sicherheit mit korrekten Antworten zusammenfällt, und bestraft, wenn ein Fehler selbstbewusst vorgetragen wurde. Ein bekannter Fallstrick dabei ist, dass Modelle lernen, vorsichtshalber immer unsicher zu klingen. Damit umgeht man die Strafe, ohne wirklich besser einzuschätzen. Gute Trainingsverfahren bestrafen deshalb auch grundlose Zurückhaltung.
Von Mathe-Benchmarks bis zur Warnung im Chatfenster
Am sichtbarsten ist der Effekt bei sogenannten Reasoning-Modellen, also Systemen, die vor der Antwort erst länger nachdenken. Modelle dieser Bauart erreichen bei Mathematikaufgaben deutlich bessere Werte als frühere Versionen. Ein wesentlicher Grund ist, dass beim Training nicht nur das Endergebnis, sondern der gesamte Lösungsweg bewertet wurde.
Im Alltag begegnet dir das Prinzip in kleineren Formen. Manche Chatbots verweisen ausdrücklich auf Quellen oder schreiben, dass eine Information unsicher sei. Suchsysteme markieren Antworten, bei denen sie keine Belege gefunden haben. Auch die Rückfrage „Meinst du X oder Y?“ ist eine Folge davon, dass ein System seine eigene Unsicherheit erkennt.
In Nachrichten taucht der Begriff häufig im Zusammenhang mit Halluzinationen auf, also frei erfundenen Angaben von Sprachmodellen. Metakognitives Feedback gilt dort als einer der Ansätze gegen das Problem. Es löst es nicht vollständig, denn ein Modell kann sich auch über seine eigene Unsicherheit täuschen. Aber es macht den Unterschied zwischen Wissen und Vermutung für Nutzer sichtbarer, und das ist in Bereichen wie Medizin, Recht oder Finanzen der entscheidende Punkt.