Generator-Evaluator-Architektur
Die Generator-Evaluator-Architektur teilt eine KI-Aufgabe auf zwei Rollen auf: Ein Teil erzeugt Lösungsvorschläge, ein zweiter Teil bewertet sie und wählt den besten aus. Weil Prüfen oft leichter ist als Erfinden, liefert diese Aufteilung häufig zuverlässigere Ergebnisse als ein einzelner Durchgang.
Ein Computerprogramm, das Texte, Bilder oder Programmcode erzeugt, trifft dabei ständig Entscheidungen. Manche davon sind gut, manche daneben. Die Generator-Evaluator-Architektur ist eine Bauweise, die dieses Problem entschärft. Sie besteht aus zwei getrennten Rollen: Die eine Rolle produziert Vorschläge, die andere prüft sie und vergibt eine Bewertung. Am Ende geht nur der bestbewertete Vorschlag an den Nutzer. Der Grundgedanke dahinter ist alltäglich: Ein Text wird besser, wenn jemand anderes ihn gegenliest, als wenn der Autor ihn ungeprüft abschickt.
Warum Prüfen leichter ist als Erfinden
Bei vielen Aufgaben besteht ein deutliches Gefälle zwischen Erzeugen und Kontrollieren. Ein Sudoku zu lösen ist mühsam. Zu prüfen, ob eine ausgefüllte Lösung stimmt, dauert eine Minute. Genau dieses Gefälle nutzt die Architektur aus. Der erzeugende Teil darf ruhig unsicher sein, solange der prüfende Teil den Ausschuss erkennt.
Sprachmodelle, also KI-Systeme, die Text Wort für Wort fortsetzen, neigen zu einem bekannten Fehler: Sie erfinden plausibel klingende, aber falsche Angaben. Fachleute nennen das Halluzination. Ein einzelner Durchgang liefert diese Erfindung ungefiltert aus. Läuft dagegen eine Prüfinstanz mit, fällt ein erfundenes Gerichtsurteil oder eine nicht existierende Quelle mit einer gewissen Wahrscheinlichkeit auf.
Das Verfahren hat allerdings einen Preis. Wer zehn Vorschläge erzeugt und bewertet, braucht deutlich mehr Rechenzeit als für einen einzigen. Das kostet Geld und macht die Antwort langsamer. Unternehmen setzen die Architektur deshalb dort ein, wo Fehler teuer sind: bei Programmcode, medizinischen Zusammenfassungen oder Rechtstexten. Für eine beiläufige Chatfrage lohnt sich der Aufwand meist nicht.
Der Kreislauf aus Vorschlag und Urteil
Im einfachsten Fall erzeugt der Generator mehrere Varianten derselben Antwort. Das gelingt, weil Sprachmodelle mit einem Zufallsanteil arbeiten und bei gleicher Frage nicht immer dasselbe schreiben. Der Evaluator gibt jeder Variante eine Punktzahl. Die beste gewinnt. Dieses Vorgehen heißt Best-of-n, wobei n für die Anzahl der Versuche steht.
Anspruchsvoller ist die Schleife: Der Evaluator gibt nicht nur eine Note, sondern eine Begründung zurück. Der Generator überarbeitet seinen Entwurf daraufhin. Das wiederholt sich, bis die Bewertung gut genug ist oder eine festgelegte Zahl an Runden erreicht ist. Ohne diese Obergrenze könnten sich beide Teile endlos im Kreis drehen.
Wer den Evaluator stellt, ist unterschiedlich gelöst. Manchmal ist es ein zweites Sprachmodell, das die Antwort liest und benotet. Manchmal ist es ein klassisches Programm ohne KI, etwa ein Testlauf, der prüft, ob geschriebener Code fehlerfrei startet. Solche harten Prüfungen sind die verlässlichsten, weil sie nicht selbst raten. Nutzt man dagegen ein Modell als Prüfer, gilt eine wichtige Einschränkung: Es kann dieselben blinden Flecken haben wie der Generator und Fehler durchwinken.
Von Coding-Assistenten bis zu Reasoning-Modellen
Am sichtbarsten ist das Prinzip bei Programmierhilfen. Werkzeuge wie GitHub Copilot oder ähnliche Assistenten schreiben Code, lassen automatische Tests darüberlaufen und bessern nach, wenn ein Test scheitert. Der Nutzer sieht nur das Endergebnis. Die verworfenen Versuche bleiben im Hintergrund.
Auch die sogenannten Reasoning-Modelle, die vor der Antwort erst sichtbar nachdenken, arbeiten verwandt. Sie erzeugen mehrere Gedankengänge und wählen den aus, der am besten bewertet wird. In Fachartikeln taucht dafür der Begriff Verifier auf, also Prüfer. Meldungen über deutlich verbesserte Ergebnisse bei Mathematikaufgaben gehen oft auf solche Verfahren zurück.
Ein verwandter, aber anderer Begriff ist GAN, das Generative Adversarial Network. Dort trainieren sich ein Erzeuger und ein Prüfer gegenseitig hoch, und zwar während des Lernens. Die Generator-Evaluator-Architektur arbeitet dagegen im laufenden Betrieb, mit fertig trainierten Bausteinen. Wer beides verwechselt, ordnet Nachrichten leicht falsch ein.