Feedback-Loop

Ein Feedback-Loop ist ein Kreislauf. Ein System tut etwas, das Ergebnis wird gemessen, und diese Messung fließt zurück in die nächste Entscheidung. Das englische Wort « Feedback » heißt genau das: Rückmeldung. Ein Thermostat an der Heizung ist das einfachste Beispiel. Er misst die Raumtemperatur, heizt bei Kälte, und weil es dadurch wärmer wird, stellt er sich selbst wieder ab. Sobald so eine Rückmeldung existiert, verändert ein System sein eigenes Umfeld — und reagiert danach auf das veränderte Umfeld.

Wenn Empfehlungen sich selbst bestätigen

Fast jedes große digitale Produkt lebt von solchen Kreisläufen. Eine Videoplattform zeigt dir ein Video, du klickst, und der Klick gilt als Beweis dafür, dass die Empfehlung gut war. Also kommen mehr Videos derselben Art. Das kann angenehm sein, weil die Vorschläge besser passen. Es kann aber auch dazu führen, dass du nur noch einen schmalen Ausschnitt zu sehen bekommst.

Das Grundproblem: Das System bewertet sich mit Daten, die es selbst erzeugt hat. Was nie angezeigt wurde, kann niemand anklicken. Also sieht es aus, als wäre es unbeliebt. Fachleute nennen das eine sich selbst bestätigende Schleife. Sie erklärt, warum Empfehlungssysteme oft enger werden, statt breiter.

Für Unternehmen sind Feedback-Loops zugleich der größte Wettbewerbsvorteil. Wer viele Nutzer hat, bekommt viele Rückmeldungen. Viele Rückmeldungen machen das Produkt besser, das zieht wieder mehr Nutzer an. Diesen Kreislauf nennt man in der Wirtschaftspresse auch Datenvorteil. Er ist ein Grund dafür, dass Marktführer im Softwaregeschäft so schwer einzuholen sind.

Positive und negative Rückkopplung

Technisch unterscheidet man zwei Sorten. Eine negative Rückkopplung dämpft: Je stärker die Abweichung, desto stärker die Gegenreaktion. Der Thermostat gehört dazu, ebenso ein Tempomat im Auto. Solche Kreisläufe stabilisieren sich von allein und pendeln um einen Zielwert.

Eine positive Rückkopplung verstärkt sich dagegen selbst. Ein Beispiel ist das Pfeifen, wenn ein Mikrofon zu nah am Lautsprecher steht. Der Lautsprecher gibt aus, was das Mikrofon aufnimmt, und das Mikrofon nimmt auf, was der Lautsprecher ausgibt. Innerhalb von Sekundenbruchteilen wird daraus ein ohrenbetäubender Ton. Positiv heißt hier also nicht gut, sondern nur verstärkend.

Bei KI-Systemen kommt eine Besonderheit hinzu: Der Kreislauf dreht sich nicht in Sekunden, sondern über Monate. Ein Sprachmodell lernt aus Texten aus dem Internet. Immer mehr dieser Texte sind selbst von KI geschrieben. Trainiert man neue Modelle darauf, lernen sie von ihren eigenen Ausgaben. Forscher warnen, dass die Qualität dabei über mehrere Generationen abnehmen kann. Dieser Effekt wird als Modellkollaps diskutiert.

Von Chat-Bewertungen bis zum Kreditscoring

Am direktesten begegnet man Feedback-Loops in Chatbots. Neben jeder Antwort stehen ein Daumen hoch und ein Daumen runter. Diese Bewertungen sammeln die Anbieter und nutzen sie, um das Modell nachzujustieren. Das Verfahren heißt Reinforcement Learning from Human Feedback, oft abgekürzt als RLHF. Vereinfacht: Menschen sagen, welche Antwort ihnen besser gefällt, und das Modell wird in diese Richtung angepasst.

Heikel wird es, wenn Entscheidungen über Menschen in so einem Kreislauf stehen. Ein System zur Kreditvergabe lehnt bestimmte Gruppen häufiger ab. Über abgelehnte Anträge erfährt die Bank nie, ob die Leute zuverlässig gezahlt hätten. Die Daten bleiben also einseitig, und das Modell bestätigt sein eigenes Vorurteil. Ähnliches ist bei vorhersagender Polizeiarbeit dokumentiert: Wo mehr kontrolliert wird, wird mehr gefunden, also wird dort weiter kontrolliert.

Ein häufiger Irrtum ist, Feedback-Loop mit Training zu verwechseln. Training ist ein einzelner Rechenvorgang. Ein Feedback-Loop ist das Muster darum herum, in dem Ausgabe und Eingabe verbunden sind. Deshalb schreiben Regulierungen wie der AI Act der EU eine laufende Überwachung nach dem Start vor. Man will erkennen, wenn ein System durch seine eigene Wirkung aus dem Ruder läuft.