Human-in-the-Loop
Human-in-the-Loop bedeutet, dass ein Mensch an einer festen Stelle in einen automatisierten Ablauf eingebaut ist und dort prüft, korrigiert oder freigibt. Der Computer arbeitet also nicht allein bis zum Ergebnis, sondern holt an vorher definierten Punkten eine menschliche Entscheidung ein.
Computerprogramme können viele Aufgaben allein erledigen, von der Sortierung von Bewerbungen bis zur Auswertung von Röntgenbildern. Human-in-the-Loop heißt: An einer festgelegten Stelle in diesem Ablauf sitzt trotzdem ein Mensch. Er sieht den Vorschlag des Programms und entscheidet, ob er ihn übernimmt, ändert oder verwirft. Das Programm arbeitet danach mit dieser Entscheidung weiter. Der Mensch ist also kein Zuschauer, sondern ein fest eingeplanter Arbeitsschritt. Das Gegenstück nennt man vollautomatisch: Dort läuft alles ohne menschlichen Eingriff durch.
Wer haftet, wenn die Maschine sich irrt
Moderne KI-Systeme geben Antworten sehr selbstbewusst, auch wenn sie falsch sind. Sie erfinden Quellen, verwechseln Namen oder übersehen Ausnahmen. Bei einer Musikempfehlung ist das harmlos. Bei einer Kreditabsage, einer Diagnose oder einer Kündigung ist es das nicht. Ein Mensch im Ablauf soll genau solche Fehler abfangen, bevor sie Folgen haben.
Dazu kommt die rechtliche Seite. Die europäische KI-Verordnung verlangt für besonders riskante Anwendungen eine wirksame menschliche Aufsicht. Auch die Datenschutz-Grundverordnung gibt Menschen ein Recht darauf, nicht allein von einer Maschine über wichtige Dinge entschieden zu bekommen. Human-in-the-Loop ist deshalb nicht nur eine technische Entscheidung, sondern oft eine Vorschrift.
Und es gibt einen praktischen Vorteil: Wer korrigiert, erzeugt Daten. Jede Korrektur zeigt dem Team, wo das System schwach ist. Diese Rückmeldungen kann man später ins Training zurückspeisen, damit das Modell besser wird.
Die drei üblichen Bauformen
Die häufigste Variante ist die Freigabe. Das System bereitet etwas vor, ein Mensch klickt auf Bestätigen. So funktionieren viele Übersetzungsbüros: Die Maschine liefert den Rohtext, ein Übersetzer glättet ihn. Der Mensch ist schneller als beim Schreiben von Null, behält aber das letzte Wort.
Die zweite Variante arbeitet mit einer Schwelle. Das Modell gibt zu jedem Ergebnis an, wie sicher es sich ist. Klare Fälle laufen automatisch durch, unsichere landen in einer Warteschlange für Menschen. Eine Bank kann so achtzig Prozent der Überweisungen ohne Prüfung freigeben und nur die verdächtigen Fälle vorlegen. Man nennt das auch selektive Automatisierung.
Die dritte Variante ist das gezielte Nachfragen. Das System sucht sich selbst die Beispiele aus, bei denen eine menschliche Antwort am meisten bringt. Der Fachbegriff dafür ist aktives Lernen. Wichtig ist bei allen drei Formen die Gestaltung der Oberfläche. Wenn ein Prüfer hunderte Vorschläge pro Stunde abnicken muss, klickt er irgendwann nur noch. Diesen Effekt nennt man Automatisierungsverzerrung, und er macht die Kontrolle wertlos.
Vom Content-Moderator bis zum autonomen Auto
Bei Instagram und TikTok filtern Modelle verbotene Inhalte vor, doch strittige Fälle prüfen Menschen in großen Moderationsteams. In Kliniken markiert Software auffällige Stellen in Aufnahmen, die Diagnose stellt aber die Ärztin. Beim Programmieren schlägt ein Assistent Code vor, den der Entwickler annimmt oder ablehnt. Überall ist der Ablauf derselbe: Vorschlag, Prüfung, Entscheidung.
In Firmenmeldungen erkennt man das Prinzip an bestimmten Formulierungen. Wenn von einem Copiloten, einem Assistenten oder von unterstützender KI die Rede ist, steckt fast immer ein Mensch am Ende der Kette. Bei selbstfahrenden Autos wird zwischen Systemen unterschieden, die eine übernahmebereite Person verlangen, und solchen, die ohne sie fahren dürfen.
Ein verbreiteter Irrtum ist, Human-in-the-Loop sei eine Übergangslösung bis zur perfekten KI. In sensiblen Bereichen ist der Mensch dauerhaft eingeplant, weil jemand verantwortlich sein muss. Der zweite Irrtum: Ein Mensch irgendwo im Unternehmen genügt nicht. Er muss den Fall wirklich beurteilen können, genug Zeit haben und die Macht, Nein zu sagen.