Agent-as-a-Judge

Programme, die auf Künstlicher Intelligenz beruhen, erledigen heute lange Aufgaben selbstständig. So ein Programm schreibt zum Beispiel eine komplette kleine Webseite, ohne dass ein Mensch jeden Schritt vorgibt. Nur: Wer prüft, ob das Ergebnis gut ist? Menschen zu fragen ist teuer und langsam. Deshalb setzt man ein zweites KI-Programm als Prüfer ein. Und wenn dieser Prüfer nicht nur den fertigen Text liest, sondern selbst herumsucht, testet und nachrechnet, nennt man das Agent-as-a-Judge — auf Deutsch etwa: ein handelnder Prüfer statt eines bloßen Lesers.

Warum ein Textvergleich als Bewertung nicht mehr reicht

Früher prüfte man KI-Systeme fast nur am Endergebnis. Bei einer Übersetzung oder einer Quizfrage funktioniert das gut: Man vergleicht die Antwort mit der Musterlösung. Bei langen, selbstständigen Arbeitsabläufen bricht dieses Prinzip zusammen. Ein Programm, das ein Software-Projekt bauen soll, produziert Dutzende Dateien und hunderte Zwischenschritte. Es gibt keine einzige Musterlösung, mit der man das vergleichen könnte.

Dazu kommt ein zweites Problem. Zwei Systeme können dasselbe Endergebnis liefern, aber eines hat sauber gearbeitet und das andere hat sich zufällig durchgewurstelt. Wer nur das Ergebnis ansieht, hält beide für gleich gut. Für die Entwickler ist genau der Unterschied aber entscheidend, denn sie wollen wissen, an welcher Stelle ihr System schiefliegt.

Der praktische Antrieb ist Geld und Zeit. Fachleute, die Hunderte solcher Projekte von Hand durchsehen, kosten leicht mehrere Tausend Euro und brauchen Tage. Ein prüfender Agent macht dieselbe Arbeit in Minuten für einen Bruchteil der Kosten. In veröffentlichten Experimenten lag seine Übereinstimmung mit menschlichen Prüfern höher als die der einfachen Textbewertung.

Was der Prüfer beim Bewerten tatsächlich tut

Der Ausgangspunkt ist eine Liste von Anforderungen. Beispiel: Die Datei mit den Daten wird korrekt eingelesen, das Modell wird trainiert, ein Diagramm wird gespeichert. Jede Anforderung ist einzeln mit Ja oder Nein beantwortbar. Der Prüfer arbeitet diese Liste Punkt für Punkt ab, statt ein Gesamturteil aus dem Bauch heraus zu fällen.

Dabei nutzt er Werkzeuge. Er darf den Projektordner durchsuchen, einzelne Dateien öffnen, Programmcode wirklich ausführen und die Protokolle der bisherigen Arbeitsschritte lesen. Er merkt sich außerdem, was er schon herausgefunden hat, damit er nicht dieselbe Datei zehnmal liest. Am Ende begründet er jedes Urteil mit einem konkreten Fund, etwa einer Zeilennummer.

Ein verwandtes, aber schwächeres Verfahren heißt LLM-as-a-Judge. Dort liest ein Sprachmodell nur den fertigen Antworttext und gibt eine Note. Der Unterschied ist der Zugriff auf die Umgebung. Und ein typischer Irrtum: Der Prüfer ist nicht neutral. Er hat dieselben Schwächen wie das geprüfte System, bevorzugt oft ausführliche Antworten und begünstigt Systeme, die ihm selbst ähnlich sind. Deshalb bleibt eine menschliche Stichprobe zur Kontrolle nötig.

Wo diese Prüfagenten heute im Einsatz sind

Am sichtbarsten ist der Einsatz bei Programmierhilfen. Werkzeuge, die selbstständig Fehler in Software beheben, brauchen eine automatische Kontrolle ihrer Vorschläge. Ähnlich läuft es bei Vergleichstests, in denen konkurrierende Systeme dieselben Aufgaben lösen und ein Prüfagent die Punkte verteilt.

In Unternehmen steckt die Technik oft unsichtbar im Hintergrund. Ein Kundendienst-Chatbot wird nach jeder Schicht auf Stichproben geprüft: Hat er die richtige Auskunft gegeben, hat er interne Regeln beachtet? Auch beim Training neuer Modelle liefern solche Prüfer die Rückmeldung, aus der das System lernt.

In Nachrichten und Firmenmitteilungen tauchen dafür Begriffe wie Evaluation, automatisierte Qualitätssicherung oder Guardrails auf. Wer solche Meldungen liest, sollte eine Frage stellen: Wer hat die Anforderungsliste geschrieben? Denn ein Prüfagent kontrolliert nur, was jemand vorher als Anforderung formuliert hat — und nichts darüber hinaus.