Verifikationsagent
Ein Verifikationsagent ist ein Computerprogramm mit künstlicher Intelligenz, dessen einzige Aufgabe es ist, die Arbeit eines anderen Programms zu überprüfen. Er sucht Fehler, statt selbst eine Lösung zu erfinden, und meldet, ob ein Ergebnis brauchbar ist.
Moderne Sprachprogramme können Texte schreiben, Aufgaben lösen oder Computercode erzeugen. Diese Programme irren sich aber regelmäßig, und sie klingen dabei genauso sicher wie bei richtigen Antworten. Ein Verifikationsagent ist ein zweites Programm, das nur eine Aufgabe hat: das Ergebnis des ersten prüfen. Er erfindet also nichts Neues, sondern sucht Widersprüche, Rechenfehler oder erfundene Angaben. Das Vorbild ist die Arbeitsteilung in einer Redaktion: Eine Person schreibt den Artikel, eine zweite liest ihn gegen. Der Grundgedanke dahinter ist einfach: Etwas zu überprüfen ist oft leichter, als es selbst zu erzeugen.
Warum Prüfen leichter ist als Erfinden
Ein Sudoku zu lösen kann lange dauern. Zu kontrollieren, ob eine fertige Lösung stimmt, dauert eine Minute. Dieses Ungleichgewicht nutzen Verifikationsagenten aus. Ein vergleichsweise einfaches Prüfprogramm kann deshalb die Ausgabe eines sehr großen Modells kontrollieren, ohne selbst so leistungsfähig sein zu müssen.
Wichtig wird das überall dort, wo Fehler teuer sind. Wenn ein KI-System selbstständig Bestellungen auslöst, Kundenanfragen beantwortet oder Programmcode in ein laufendes Produkt schreibt, schaut nicht mehr bei jedem Schritt ein Mensch zu. Genau diese fehlende Kontrolle ist der Hauptgrund, warum viele Unternehmen KI-Systeme bisher nur zögerlich einsetzen. Ein Prüfschritt davor senkt das Risiko deutlich.
Man sollte allerdings nicht zu viel erwarten. Ein Verifikationsagent verwandelt ein unzuverlässiges System nicht in ein perfektes. Er verschiebt die Fehlerquote nach unten, oft von mehreren Prozent auf einen Bruchteil davon. Bei sicherheitskritischen Anwendungen, etwa in der Medizin, bleibt die menschliche Kontrolle trotzdem Pflicht.
Der Ablauf von der Antwort bis zur Freigabe
Zuerst erzeugt das eigentliche Modell eine Antwort. Diese Antwort geht nicht direkt an den Nutzer, sondern an den Verifikationsagenten. Der bekommt dazu die ursprüngliche Aufgabe und meist eine feste Liste von Prüfkriterien. Dann gibt er ein Urteil ab: angenommen, abgelehnt oder überarbeiten.
Wie geprüft wird, hängt von der Aufgabe ab. Bei Programmcode ist es einfach: Der Agent führt den Code aus und schaut, ob Testfälle bestehen. Das Ergebnis ist dann eindeutig richtig oder falsch. Bei Rechenaufgaben kann er das Resultat in die Ausgangsgleichung einsetzen. Bei Texten ist es schwieriger, weil es kein hartes Kriterium gibt. Dort vergleicht der Agent Behauptungen mit einer Quelle, etwa einem hinterlegten Dokument, und markiert alles, was dort nicht steht.
Wird eine Antwort abgelehnt, geht sie mit der Fehlerbeschreibung zurück an das erste Modell. Dieses versucht es erneut, oft mehrere Runden lang. Damit das nicht endlos läuft, gibt es eine Obergrenze an Versuchen. Jede Runde kostet Rechenzeit und damit Geld, deshalb ist die Zahl der Durchläufe eine bewusste Abwägung zwischen Qualität und Kosten.
Verifikationsagenten in Software und Schlagzeilen
Am sichtbarsten sind sie bei Programmierhilfen. Werkzeuge wie GitHub Copilot oder ähnliche Assistenten schreiben nicht nur Code, sondern lassen ihn automatisch testen, bevor sie ihn vorschlagen. Auch Chatbots mit Quellenangaben arbeiten so: Ein Prüfschritt kontrolliert, ob die genannten Belege die Aussage wirklich stützen.
In Nachrichten taucht der Begriff meist im Zusammenhang mit sogenannten Agentensystemen auf. Damit sind KI-Programme gemeint, die mehrere Arbeitsschritte selbstständig hintereinander ausführen. Firmen werben dann damit, dass ein eingebauter Prüfmechanismus die Zuverlässigkeit erhöht. Fachlich verwandt ist der Begriff Guardrail, der eher feste Regeln und Verbote meint. Ein Verifikationsagent prüft dagegen inhaltlich und trifft eine Einzelfallentscheidung.
Ein häufiger Irrtum ist, den Verifikationsagenten für eine unabhängige Instanz zu halten. Oft steckt dahinter dasselbe Grundmodell wie beim Erzeuger, nur mit anderen Anweisungen. Dann teilen beide dieselben blinden Flecken und übersehen denselben Fehler. Deshalb setzen sorgfältige Anbieter ein anderes Modell oder einen echten Programmtest als Prüfer ein.