Verifikationsagent

Programme, die Texte schreiben oder Aufgaben lösen, machen Fehler. Sie klingen dabei oft trotzdem sehr überzeugend. Ein Verifikationsagent ist ein zweites Programm, dessen einzige Aufgabe das Nachprüfen ist. Es bekommt eine fertige Antwort vorgelegt und sucht gezielt nach Fehlern darin. Dabei arbeitet es selbstständig: Es darf Schritte planen, Werkzeuge benutzen und mehrfach nachhaken, bis es zu einem Urteil kommt. Am Ende steht ein klares Ergebnis: Die Antwort wird angenommen, abgelehnt oder zur Überarbeitung zurückgeschickt.

Warum Nachprüfen leichter ist als Lösen

Viele Aufgaben sind schwer zu lösen, aber leicht zu kontrollieren. Ein Sudoku zu füllen dauert lange. Zu prüfen, ob ein ausgefülltes Sudoku korrekt ist, dauert eine Minute. Genau diese Lücke nutzen Verifikationsagenten aus. Ein starkes Modell darf viele Lösungsvorschläge produzieren, und ein Prüfer sortiert die falschen aus.

Das ist wirtschaftlich interessant. Unternehmen wollen KI-Systeme nicht nur für Spielereien einsetzen, sondern für Buchhaltung, Programmierung oder medizinische Vorbefunde. Dort ist eine erfundene Antwort teuer oder gefährlich. Eine unabhängige Prüfinstanz senkt dieses Risiko, ohne dass ein Mensch jede einzelne Ausgabe lesen muss.

Hinzu kommt der Effekt auf das Training. Wenn ein Prüfer zuverlässig sagen kann, welche Lösung richtig ist, entsteht daraus ein Belohnungssignal. Das Modell lernt dann aus seinen eigenen geprüften Versuchen weiter. Viele der jüngsten Fortschritte bei Modellen, die Schritt für Schritt denken, beruhen auf diesem Kreislauf.

Vom Vorschlag zum Urteil

Der Ablauf beginnt mit einem Vorschlag. Ein erstes System, oft Generator genannt, liefert eine Antwort oder einen Lösungsweg. Der Verifikationsagent bekommt diesen Vorschlag zusammen mit der ursprünglichen Aufgabe. Dann zerlegt er die Antwort in einzelne Behauptungen und nimmt sich jede einzeln vor.

Entscheidend sind die Werkzeuge, die er dabei benutzen darf. Bei Programmcode führt er den Code einfach aus und schaut, ob die Tests durchlaufen. Bei einer Rechnung startet er einen Taschenrechner oder ein kleines Skript. Bei einer Tatsachenbehauptung sucht er in einer Datenbank oder im Netz nach einer Quelle. Ein Urteil, das auf einem ausgeführten Test beruht, ist deutlich härter als eine bloße Einschätzung.

Es gibt einen wichtigen Unterschied zwischen zwei Bauarten. Ein Ergebnisprüfer schaut nur auf die Endantwort. Ein Schrittprüfer bewertet jeden Zwischenschritt einzeln und findet dadurch die Stelle, an der ein Gedankengang kippt. Der zweite Ansatz ist teurer, liefert aber brauchbareres Feedback für eine Korrektur.

Ein häufiger Irrtum ist, dass ein Prüfer automatisch neutral sei. Wenn Generator und Prüfer auf demselben Modell beruhen, teilen sie oft dieselben blinden Flecken. Der Prüfer nickt dann Fehler ab, die er selbst gemacht hätte. Deshalb setzt man in der Praxis gern auf ein anderes Modell oder auf harte, nachrechenbare Tests.

Verifikationsagenten in Produkten und Schlagzeilen

Am sichtbarsten sind sie beim Programmieren. Werkzeuge wie Coding-Assistenten schreiben nicht nur Code, sondern führen ihn aus, lesen die Fehlermeldung und bessern nach. Diese Prüfschleife läuft im Hintergrund, bis die Tests grün sind. Was der Nutzer sieht, ist nur das geprüfte Endergebnis.

Auch bei Antworten mit Quellenangaben steckt oft eine Prüfstufe dahinter. Sie kontrolliert, ob die genannte Quelle die Aussage überhaupt hergibt. In Firmen finden sich ähnliche Systeme in der Rechnungsprüfung oder in der Kontrolle von Verträgen. Dort vergleicht ein Agent Zahlen und Klauseln mit hinterlegten Regeln.

In den Nachrichten tauchen Verifikationsagenten meist unter Stichworten wie Reasoning, Agenten oder KI-Sicherheit auf. Wenn ein Anbieter mit weniger Halluzinationen wirbt, also mit weniger frei erfundenen Angaben, steckt häufig eine solche Prüfschicht dahinter. Man sollte solche Aussagen trotzdem nüchtern lesen. Ein Prüfer verschiebt die Fehlerquote nach unten, er garantiert keine Richtigkeit.