Human-in-the-Loop

Viele Programme, die selbstständig Texte schreiben oder Bilder auswerten, arbeiten nicht komplett allein. Sie erzeugen einen Vorschlag, und ein Mensch schaut darüber, bevor etwas passiert. Genau dieses Zusammenspiel meint der englische Ausdruck Human-in-the-Loop, wörtlich: der Mensch in der Schleife. Der Begriff wird gelegentlich auch als « Work-in-the-Loop » wiedergegeben, gemeint ist dasselbe Prinzip. Der Mensch ist dabei kein Zuschauer, sondern ein fest eingeplanter Arbeitsschritt. Ohne seine Freigabe läuft der Vorgang nicht weiter.

Warum niemand die Maschine allein entscheiden lässt

KI-Systeme liefern Antworten, die plausibel klingen, aber falsch sein können. Ein Sprachmodell erfindet gelegentlich Quellen, ein Bilderkennungssystem verwechselt einen Schatten mit einem Riss im Bauteil. Die Maschine merkt das selbst nicht, denn sie hat kein Gefühl dafür, wann sie danebenliegt. Deshalb baut man an kritischen Stellen einen Menschen ein, der die Ausgabe gegen die Wirklichkeit hält.

Dazu kommt die Frage der Verantwortung. Wenn ein Kredit abgelehnt oder eine Bewerbung aussortiert wird, muss jemand dafür geradestehen. Eine Software kann nicht haften, ein Mensch oder ein Unternehmen schon. Die EU-KI-Verordnung, das erste große europäische Gesetz zu künstlicher Intelligenz, verlangt für besonders riskante Anwendungen ausdrücklich eine menschliche Aufsicht. Human-in-the-Loop ist damit nicht nur eine technische Idee, sondern in manchen Bereichen Vorschrift.

Ein häufiger Irrtum ist, das Verfahren sei bloß eine Übergangslösung, bis die Technik gut genug ist. In vielen Feldern bleibt es dauerhaft sinnvoll. Fehler sind dort nämlich nicht selten genug, um sie zu ignorieren, und ihre Folgen zu teuer, um sie hinzunehmen.

An welchen Stellen der Mensch eingreift

Typisch ist ein Ablauf in drei Schritten. Das System berechnet einen Vorschlag, zeigt ihn an, und ein Mensch bestätigt, ändert oder verwirft ihn. Erst danach wird das Ergebnis wirksam, also etwa verschickt, gespeichert oder ausgeführt. Manche Systeme geben zusätzlich an, wie sicher sie sich sind. Liegt dieser Wert unter einer festgelegten Schwelle, wird der Fall automatisch an einen Menschen weitergeleitet.

Die Korrekturen verschwinden meistens nicht einfach. Sie werden gesammelt und später zum Nachtrainieren des Modells verwendet. Das Modell lernt also aus genau den Fällen, in denen es danebenlag. Fachleute sprechen hier von einer Rückkopplung, weil das Ergebnis der Prüfung wieder in das System zurückfließt.

Davon zu unterscheiden ist Human-on-the-Loop. Dort läuft das System allein durch, und der Mensch beobachtet nur und greift im Notfall ein. Der Unterschied klingt klein, ist aber entscheidend: einmal ist die Freigabe Pflicht, einmal nur eine Möglichkeit. Wo Fehler schnell und schwer wirken, wählt man die strengere Variante.

Vom Bankkonto bis zur Trainingsdatenfabrik

Banken nutzen das Prinzip bei der Betrugserkennung. Ein Programm markiert auffällige Kartenzahlungen, ein Mitarbeiter sieht sie durch und entscheidet über die Sperre. In Krankenhäusern markiert Software verdächtige Stellen auf Röntgenbildern, die Diagnose stellt trotzdem ein Arzt. Auch die Untertitel bei Videoplattformen entstehen so: automatisch erzeugt, danach von Menschen nachgebessert.

Ein eigener Wirtschaftszweig ist daraus rund um das Training von KI entstanden. Firmen wie Scale AI beschäftigen sehr viele Menschen, die Modellantworten bewerten und Daten beschriften. Diese Arbeit ist einer der größten Kostenblöcke bei der Entwicklung großer Modelle. In Unternehmensmeldungen taucht Human-in-the-Loop deshalb oft als Argument auf, warum ein KI-Produkt zuverlässig sei.

Der Begriff hat allerdings eine Schwachstelle. Wenn ein Mensch hundert Vorschläge am Tag abnicken soll, prüft er irgendwann nicht mehr richtig. Fachleute nennen das Automatisierungsverzerrung: Man vertraut der Maschine mehr, als gut ist. Ein Häkchen als Freigabe ist eben noch keine echte Kontrolle.