Agentic Verification
Agentic Verification bezeichnet eine Methode, bei der ein KI-System seine eigenen Antworten oder die anderer KI-Modelle selbstständig überprüft — durch gezieltes Nachfragen, Recherchieren oder Gegenrechnen. Das Ziel ist, Fehler zu erkennen, bevor sie den Nutzer erreichen.
KI-Systeme machen Fehler — sie erfinden Fakten, rechnen falsch oder ziehen falsche Schlüsse. Agentic Verification ist ein Ansatz, um genau das abzufangen. Dabei prüft ein KI-System eine Antwort nicht einfach nochmal, sondern handelt aktiv: Es stellt Folgefragen, schlägt Dinge nach, führt Berechnungen erneut durch oder beauftragt ein zweites Modell mit der Kontrolle. Das Wort « agentic » kommt vom englischen « agent », also einem Akteur, der selbstständig Schritte unternimmt, um ein Ziel zu erreichen. Agentic Verification überträgt dieses Prinzip auf die Qualitätssicherung: Die KI wartet nicht auf einen Menschen, der nachhakt, sondern übernimmt die Kontrolle selbst.
Warum unkontrollierte KI-Ausgaben ein Problem sind
Sprachmodelle — also Systeme wie ChatGPT oder ähnliche Chatbots — erzeugen Texte, die plausibel klingen, auch wenn sie sachlich falsch sind. Dieses Verhalten nennt man Halluzination. Ein Modell berechnet bei jeder Ausgabe das wahrscheinlichste nächste Wort, ohne zwingend zu « wissen », ob der Inhalt stimmt. Für einfache Fragen ist das kein großes Problem. Sobald aber Ergebnisse in medizinische Diagnosen, Rechtsauskünfte oder automatisierte Entscheidungen fließen, kann ein einziger Fehler erhebliche Folgen haben.
Genau dort setzt Agentic Verification an. Je mehr KI-Systeme eigenständig arbeiten — also nicht nur auf eine Frage antworten, sondern ganze Aufgaben erledigen —, desto wichtiger wird es, Fehler systemseitig abzufangen. Ein Mensch, der jeden Schritt kontrolliert, ist bei komplexen Aufgaben schlicht nicht schnell genug. Die Verifikation muss also ebenfalls automatisiert sein.
Wie ein KI-System sich selbst auf die Probe stellt
Ein typischer Ablauf sieht so aus: Ein erstes Modell produziert eine Antwort. Ein zweites Modell — oder dasselbe Modell in einem separaten Durchlauf — bekommt die Aufgabe, diese Antwort kritisch zu hinterfragen. Es sucht nach logischen Widersprüchen, vergleicht Aussagen mit abrufbaren Quellen oder rechnet numerische Ergebnisse nach. Findet es einen Fehler, wird die ursprüngliche Antwort verworfen oder korrigiert.
Ein konkretes Verfahren heißt Self-Consistency: Das Modell beantwortet dieselbe Frage mehrmals mit leicht variierter Formulierung. Stimmen die Antworten überein, ist das ein Hinweis auf Zuverlässigkeit. Weichen sie ab, signalisiert das Unsicherheit. Daneben gibt es Ansätze, bei denen ein Modell gezielt nach Gegenbeispielen sucht — also versucht, die eigene Antwort zu widerlegen, bevor sie weitergegeben wird.
Wichtig ist die Abgrenzung zu einfachem Re-Prompting, also dem bloßen Wiederholen einer Anfrage. Agentic Verification ist strukturierter: Sie folgt einer definierten Strategie, nutzt oft mehrere Werkzeuge (etwa Websuche oder Code-Ausführung) und kann den Überprüfungsprozess dokumentieren. Das Modell begründet, warum es eine Aussage für korrekt oder falsch hält.
Wo Agentic Verification heute schon steckt
Viele KI-Assistenten, die im Jahr 2024 und 2025 auf den Markt kamen, enthalten stille Verifikationsschritte, die Nutzer gar nicht sehen. Wenn ein Chatbot eine mathematische Aufgabe löst, führt er den Rechenweg in manchen Systemen intern als ausführbaren Code durch — und prüft so automatisch, ob das Ergebnis stimmt. Das ist eine einfache Form von Agentic Verification.
In der Softwareentwicklung setzen KI-gestützte Tools wie GitHub Copilot zunehmend auf ähnliche Mechanismen: Generierter Code wird von einem zweiten Modell auf häufige Fehler geprüft, bevor er dem Entwickler vorgeschlagen wird. In der Wissenschaft experimentieren Forschungsgruppen damit, KI-Systeme Literaturaussagen automatisch gegen verfügbare Datenbanken abzugleichen.
Ein häufiger Irrtum ist die Annahme, Agentic Verification mache KI-Ausgaben zuverlässig im absoluten Sinne. Das stimmt nicht. Wenn das prüfende Modell und das geprüfte Modell denselben Trainingsfehler gelernt haben, erkennt die Verifikation das Problem nicht. Zwei Modelle, die denselben blinden Fleck teilen, bestätigen sich gegenseitig. Deshalb gilt Agentic Verification als eine wichtige Schicht in einem breiteren System zur Qualitätssicherung — nicht als vollständige Lösung.