Halluzinationsreduktion

Programme wie ChatGPT schreiben Texte, indem sie Wort für Wort das jeweils wahrscheinlichste nächste Wort anhängen. Dabei kommt manchmal etwas heraus, das flüssig und überzeugend klingt, aber schlicht erfunden ist. Ein solcher erfundener Inhalt heißt in der Fachsprache Halluzination. Typisch sind erfundene Buchtitel, falsche Jahreszahlen oder Gesetzesparagrafen, die es nie gab. Halluzinationsreduktion ist der Sammelbegriff für alle Techniken, die solche Fehler seltener machen sollen. Ganz beseitigen lassen sie sich bislang nicht, aber ihre Häufigkeit lässt sich deutlich senken.

Warum erfundene Fakten teuer werden

Ein Rechtschreibfehler fällt sofort auf. Eine erfundene Quellenangabe nicht. Genau das macht Halluzinationen gefährlich: Sie sehen aus wie richtige Antworten. Der Text ist grammatisch sauber, die Zahl klingt plausibel, der Ton wirkt selbstsicher. Wer nicht nachprüft, übernimmt den Fehler ungeprüft.

In der Praxis gab es dazu bereits einige spektakuläre Fälle. Anwälte in den USA reichten Schriftsätze mit Gerichtsurteilen ein, die eine KI erfunden hatte. Das Gericht verhängte Geldstrafen. Auch Fluggesellschaften und Behörden mussten schon für falsche Auskünfte ihrer Chatbots geradestehen.

Für Unternehmen ist das der Hauptgrund, warum KI-Systeme oft nur zögerlich eingesetzt werden. In der Medizin, im Recht oder in der Buchhaltung ist eine falsche Angabe kein kleiner Schönheitsfehler. Halluzinationsreduktion entscheidet deshalb mit darüber, in welchen Bereichen solche Systeme überhaupt zugelassen werden.

Von der Quellenanbindung bis zur Selbstprüfung

Die wirksamste Methode heißt Retrieval Augmented Generation, kurz RAG. Dabei sucht das System vor dem Antworten in einer echten Dokumentensammlung, etwa im Handbuch einer Firma. Die gefundenen Textstellen werden der Frage beigelegt. Das Modell soll dann nur noch aus diesem Material antworten und nicht aus dem vagen Gedächtnis seines Trainings. Man ersetzt gewissermaßen das Antworten aus dem Kopf durch eine offene Klausur mit Nachschlagewerk.

Ein zweiter Ansatz setzt beim Training an. Menschen bewerten dabei Antworten und belohnen ausdrücklich, wenn das Modell zugibt, etwas nicht zu wissen. Ohne dieses Training lernt ein System nämlich, dass eine selbstbewusste Antwort meistens besser bewertet wird als ein Eingeständnis von Unwissen. Genau diese Neigung zum Raten muss man ihm gezielt abgewöhnen.

Dazu kommen nachgelagerte Prüfschritte. Ein zweites Modell liest die Antwort und vergleicht jede Behauptung mit den zitierten Quellen. Passt etwas nicht zusammen, wird die Antwort verworfen oder markiert. Verwandt ist die Idee, dieselbe Frage mehrfach zu stellen: Weichen die Antworten stark voneinander ab, ist das ein Warnsignal für erfundene Inhalte.

Woran man sie in Produkten erkennt

Quellenangaben mit anklickbaren Links sind das sichtbarste Zeichen. Suchsysteme wie Perplexity oder die KI-Antworten in Suchmaschinen setzen darauf. Man kann jede Aussage bis zur Originalseite zurückverfolgen. Auch Sätze wie « Dazu liegen mir keine Informationen vor » sind ein Ergebnis dieser Bemühungen und keine Schwäche des Systems.

In Firmenprodukten steckt Halluzinationsreduktion meist unsichtbar im Hintergrund. Ein Kundendienst-Chatbot greift auf die interne Wissensdatenbank zu, statt frei zu formulieren. Bei heiklen Fragen leitet er an einen Menschen weiter. Das ist unspektakulär, aber genau der Punkt.

In Nachrichten und Werbeprospekten der Anbieter tauchen dazu oft Prozentzahlen auf, etwa « 40 Prozent weniger Halluzinationen ». Solche Angaben sollte man vorsichtig lesen. Sie beziehen sich auf bestimmte Testfragen und lassen sich nicht auf jede Anwendung übertragen. Ein verbreiteter Irrtum ist außerdem, ein größeres Modell halluziniere automatisch weniger. Größere Modelle wissen mehr, formulieren ihre Erfindungen aber auch überzeugender.