Reflection-in-Action

Reflection-in-Action heißt wörtlich: Nachdenken während des Handelns. Der Begriff stammt aus der Bildungsforschung. Der Sozialwissenschaftler Donald Schön beschrieb damit in den 1980er-Jahren, wie erfahrene Fachleute wirklich arbeiten. Ein Arzt folgt nicht starr einem Lehrbuchplan, sondern bemerkt mitten in der Untersuchung, dass etwas nicht passt, und schlägt eine andere Richtung ein. Das Gegenstück nannte Schön Reflection-on-Action: das ruhige Nachdenken hinterher, wenn alles vorbei ist. In der Computertechnik wird der Begriff heute für Programme benutzt, die ihre eigenen Zwischenergebnisse prüfen und ihr Vorgehen im laufenden Ablauf anpassen.

Warum blindes Abarbeiten von Plänen scheitert

Ein Computerprogramm arbeitet klassisch eine feste Abfolge von Schritten ab. Das funktioniert gut, solange die Welt genau so aussieht wie erwartet. Sobald etwas Unvorhergesehenes passiert, läuft ein starrer Plan ins Leere. Genau das ist das Grundproblem vieler KI-Systeme, die selbstständig Aufgaben erledigen sollen.

Bei Sprachmodellen kommt ein zweites Problem hinzu. Ein Sprachmodell ist ein Programm, das gelernt hat, Texte fortzusetzen, und dabei auch Rechenwege oder Programmcode erzeugen kann. Es produziert seine Antwort Stück für Stück und kann sich früh vertun. Ohne Prüfung baut es dann seitenlang auf einem Fehler weiter auf. Fachleute nennen so etwas eine Fehlerkaskade: ein kleiner Irrtum am Anfang macht am Ende alles unbrauchbar.

Reflection-in-Action ist die Antwort darauf. Wenn ein System nach jedem Schritt kurz prüft, ob es noch auf Kurs liegt, bleiben Fehler klein. Das ist auch wirtschaftlich relevant. Ein Programmierassistent, der seinen eigenen Code testet, spart dem Menschen die Fehlersuche.

Prüfen, bewerten, Kurs ändern

Technisch besteht Reflection-in-Action aus einer Schleife mit drei Teilen. Zuerst führt das System einen Schritt aus, etwa eine Suche oder ein Stück Rechnung. Dann bewertet es das Ergebnis: War das nützlich? Passt es zur Aufgabe? Schließlich entscheidet es, ob es weitermacht oder etwas anderes probiert.

Die Bewertung kann von außen kommen oder vom Modell selbst. Von außen ist sie zuverlässiger. Ein Programm, das Code schreibt, kann ihn einfach ausführen lassen: Die Fehlermeldung ist eine harte Rückmeldung. Bewertet das Modell sich selbst, schreibt es eine kurze Kritik seiner eigenen Ausgabe und arbeitet damit weiter. Bekannte Verfahren dieser Art heißen Reflexion oder Self-Refine.

Ein häufiger Irrtum ist, dass Selbstkritik immer hilft. Das stimmt nicht. Ein Modell, das einen Fehler nicht erkennen kann, bestätigt sich beim Nachprüfen oft nur selbst. Außerdem kostet jede Prüfrunde Rechenzeit und damit Geld. Deshalb begrenzt man die Zahl der Runden meist auf wenige Durchläufe.

Von KI-Agenten bis zum Referat

Am häufigsten liest man den Begriff im Zusammenhang mit KI-Agenten. So nennt man Systeme, die eine Aufgabe in eigenen Schritten erledigen, etwa im Internet recherchieren oder Dateien bearbeiten. Solche Agenten funktionieren nur brauchbar, wenn sie zwischendurch merken, dass eine Quelle nichts hergibt. Anbieter werben deshalb mit Formulierungen wie „selbstkorrigierend“ oder „reflektierend“.

Auch in Produkten steckt das Prinzip. Programmierwerkzeuge lassen erzeugten Code automatisch laufen und reparieren ihn bei Fehlern. Rechercheassistenten prüfen ihre Zwischenergebnisse, bevor sie einen Bericht schreiben. In den Fachnachrichten tauchen die Begriffe Reflexion, Selbstkorrektur und Reflection-in-Action dabei oft durcheinander auf.

Der Ursprung des Begriffs wirkt weiter in der Pädagogik. Dort beschreibt Reflection-in-Action, was du selbst machst, wenn ein Referat nicht ankommt und du spontan anders erklärst. Diese menschliche Bedeutung erklärt, warum der Begriff in der KI so beliebt ist: Er beschreibt genau die Fähigkeit, die Maschinen bisher am meisten fehlt.