Potemkinsche Dörfer

Der Ausdruck stammt aus einer Geschichte über Russland im 18. Jahrhundert. Fürst Potemkin soll für einen Besuch der Zarin bemalte Kulissen von Dörfern aufgestellt haben. Von der Straße aus wirkte alles wohlhabend, dahinter war nichts. Historiker halten die Geschichte für stark übertrieben, doch der Begriff blieb. Heute bezeichnet man damit jede Fassade, die eine Leistung vortäuscht, die es gar nicht gibt. In der Technikwelt taucht der Ausdruck immer häufiger auf, wenn über KI-Systeme gesprochen wird.

Warum Fassaden bei KI besonders leicht entstehen

Ein Sprachmodell ist ein Programm, das gelernt hat, plausible Texte zu erzeugen. Es sagt voraus, welches Wort als Nächstes gut passt. Dabei entsteht Sprache, die kompetent klingt. Ob der Inhalt stimmt, ist damit noch nicht gesichert. Genau hier liegt die Gefahr einer Potemkinschen Fassade.

Menschen schließen im Alltag von guter Sprache auf gutes Wissen. Wer flüssig und mit Fachbegriffen erklärt, wirkt kompetent. Bei KI-Systemen ist dieser Schluss unzuverlässig. Der flüssige Text ist das Produkt, nicht der Beweis für Verständnis dahinter.

Für Unternehmen und Behörden hat das handfeste Folgen. Wer ein System einkauft, das in der Demo brilliert, kann im Alltag scheitern. Deshalb fordern Aufsichtsbehörden zunehmend Nachweise statt Vorführungen. Der Begriff dient in solchen Diskussionen als Warnung.

Woran man die Kulisse erkennt

Ein typischer Test ist die Variation der Aufgabe. Ein Modell erklärt zum Beispiel korrekt, was ein Reim ist. Bittet man es dann, das Gelernte auf einen ungewöhnlichen Fall anzuwenden, bricht die Leistung ein. Forscher nennen genau diese Lücke zwischen Erklären und Anwenden ein Potemkinsches Verständnis.

Ein zweites Warnzeichen sind eingeübte Prüfungsaufgaben. Viele Modelle werden mit bekannten Testfragen bewertet, die im Trainingsmaterial vorkamen. Das Ergebnis misst dann Erinnerung, nicht Können. Fachleute sprechen von Datenkontamination, also verunreinigten Testdaten.

Abgrenzen sollte man den Begriff von der Halluzination. Eine Halluzination ist eine einzelne erfundene Behauptung, etwa eine falsche Jahreszahl. Ein Potemkinsches Dorf ist grundsätzlicher: Die gesamte vorgeführte Fähigkeit ist Kulisse. Ein häufiger Irrtum ist außerdem, dahinter Absicht zu vermuten. Das Modell täuscht nicht bewusst, es optimiert nur auf überzeugend wirkende Ausgaben.

Kulissen in Produkten, Demos und Börsenmeldungen

Am sichtbarsten wird der Begriff bei Produktvorstellungen. Videos zeigen Assistenten, die mühelos Termine buchen und Fragen lösen. Später stellt sich heraus, dass die Aufnahme geschnitten oder beschleunigt war. Solche Fälle hat es bei mehreren großen Anbietern gegeben.

Eine härtere Variante ist versteckte menschliche Arbeit. Manche Firmen bewarben Systeme als vollautomatisch, obwohl im Hintergrund Angestellte mitarbeiteten. In den USA gab es dazu bereits Klagen wegen irreführender Werbung. Anleger reagieren darauf empfindlich, weil sich der Wert eines Unternehmens ändert.

Auch im Schulalltag begegnet dir das Prinzip. Ein Chatbot liefert eine Aufsatzstruktur, die perfekt aussieht, aber inhaltlich hohl ist. Wer die Quellen prüft, findet oft nichts dahinter. Die passende Gegenmaßnahme ist immer dieselbe: nicht die Vorführung bewerten, sondern das System an einer eigenen, unerwarteten Aufgabe testen.