Halluzination

Ein Chatprogramm wie ChatGPT beantwortet Fragen in flüssigen, gut formulierten Sätzen. Manchmal ist der Inhalt dieser Sätze jedoch schlicht erfunden. Es nennt ein Buch, das nie geschrieben wurde, ein Gerichtsurteil, das es nicht gibt, oder ein falsches Geburtsdatum. Solche erfundenen Angaben nennt man Halluzinationen. Der Begriff ist etwas irreführend, denn das Programm sieht keine Gespenster und lügt auch nicht absichtlich. Es hat einfach keinen eingebauten Unterschied zwischen einer wahren und einer bloß gut klingenden Aussage.

Warum erfundene Fakten so gefährlich sind

Ein offensichtlicher Fehler ist harmlos, weil man ihn bemerkt. Halluzinationen sind das Gegenteil: sie kommen im gleichen selbstsicheren Tonfall wie richtige Antworten. Es gibt keinen Zittertonfall, kein Zögern, keine Warnung. Genau deshalb übernehmen Menschen sie ungeprüft.

In der Praxis hat das schon echten Schaden angerichtet. In den USA reichten Anwälte 2023 einen Schriftsatz ein, in dem mehrere zitierte Urteile nicht existierten. Ein Chatprogramm hatte sie erfunden, samt plausibler Aktenzeichen. Das Gericht verhängte ein Bußgeld. Ähnliche Fälle gibt es in Medizin, Journalismus und Schule.

Für Unternehmen ist das der Hauptgrund, warum KI in sensiblen Bereichen nur mit menschlicher Kontrolle eingesetzt wird. Eine Fehlerquote von wenigen Prozent klingt niedrig. Bei einer Million Anfragen am Tag sind das aber tausende falsche Auskünfte.

Wortwahrscheinlichkeiten statt Wissensdatenbank

Ein Sprachmodell ist ein Programm, das gelernt hat, welches Wort auf eine Folge von Wörtern am besten passt. Es hat dafür riesige Textmengen ausgewertet. Bei jeder Antwort wählt es Wort für Wort die wahrscheinlichste Fortsetzung. Es sucht nichts nach, sondern rechnet.

Der Vergleich mit einem Schüler trägt hier gut. Stell dir jemanden vor, der sehr viel gelesen hat, aber in der Prüfung kein Buch benutzen darf. Bei einer Lücke im Gedächtnis schreibt er etwas hin, das zum Rest passt. Herausgekommen ist eine Antwort im richtigen Stil mit falschem Inhalt. Genau das tut ein Sprachmodell, nur ohne das schlechte Gewissen.

Halluzinationen sind darum kein Bug, den man einfach entfernt. Man kann sie aber deutlich reduzieren. Die wichtigste Technik heißt RAG, kurz für retrieval-augmented generation: Das Modell bekommt vor der Antwort echte Dokumente vorgelegt und darf nur daraus zitieren. Auch das Prüfen mit einem zweiten Modell und das Angeben von Quellen helfen. Ganz verschwindet das Problem nach heutigem Stand nicht.

Woran man Halluzinationen im Alltag erkennt

Am häufigsten treten sie bei Detailfragen auf. Typische Auslöser sind Seitenzahlen, Jahreszahlen, Namen von Nebenfiguren, Studien, Paragrafen oder Links. Wer nach einer Internetadresse fragt, bekommt oft eine, die aufgebaut ist wie eine echte, aber ins Leere führt. Auch erfundene Literaturangaben in Hausarbeiten sind ein klassischer Fall.

In den Nachrichten begegnet dir der Begriff meist in zwei Zusammenhängen. Erstens bei Produktankündigungen: Firmen wie OpenAI oder Google werben damit, dass ein neues Modell weniger halluziniert. Zweitens bei Regulierung, etwa wenn es um Haftung für falsche Auskünfte einer KI geht.

Abzugrenzen ist die Halluzination von zwei ähnlichen Dingen. Ein veralteter Wissensstand ist keine Halluzination, sondern nur alt: das Modell wurde bis zu einem Stichtag trainiert. Und ein Vorurteil im Modell, oft Bias genannt, ist eine Schieflage in der Bewertung, keine erfundene Tatsache. Praktische Regel: Bei allem, was du weiterverwenden willst, prüfe Zahlen, Namen und Quellen selbst nach.