Inkohärenz

Ein Text ist kohärent, wenn seine Teile logisch zusammenpassen. Inkohärenz ist das Gegenteil davon. Ein inkohärenter Text widerspricht sich selbst, springt ohne Zusammenhang zwischen Themen oder begründet ein Ergebnis mit Sätzen, die gar nicht dorthin führen. Ein Beispiel: Ein Programm schreibt im ersten Satz, ein Konzert finde am Samstag statt, und im vierten Satz, es sei am Sonntag. Jeder einzelne Satz klingt vernünftig, aber gemeinsam ergeben sie keinen Sinn. Genau das ist typisch für Computerprogramme, die Sprache Wort für Wort erzeugen.

Warum widersprüchliche Antworten gefährlicher sind als offensichtlicher Unsinn

Inkohärenz fällt oft nicht sofort auf. Ein Text kann flüssig, gut formuliert und selbstbewusst klingen und trotzdem in sich zerfallen. Wer schnell liest, übernimmt den Widerspruch, ohne ihn zu bemerken. Offensichtlicher Unsinn ist in dieser Hinsicht harmloser, weil er sofort auffällt und korrigiert wird.

Besonders heikel wird das bei längeren Aufgaben. Wenn ein Programm einen Vertrag zusammenfasst, eine Rechnung erklärt oder eine Arztanweisung wiedergibt, muss der zweite Teil zum ersten passen. Reißt der Zusammenhang, wird aus einer nützlichen Hilfe eine Fehlerquelle. Unternehmen prüfen deshalb, wie stabil ein Modell über viele Absätze hinweg bleibt.

Wichtig ist die Abgrenzung zur sogenannten Halluzination. Eine Halluzination ist eine erfundene Tatsache, etwa eine Quelle, die es nicht gibt. Inkohärenz betrifft dagegen das Verhältnis der Aussagen zueinander. Ein Text kann vollständig aus wahren Sätzen bestehen und trotzdem inkohärent sein, wenn diese Sätze einander widersprechen.

Wie der rote Faden bei Sprachmodellen reißt

Sprachmodelle sind Programme, die Texte erzeugen, indem sie immer wieder das wahrscheinlichste nächste Wort anhängen. Sie halten dabei keinen inneren Plan des ganzen Textes fest. Der Zusammenhang entsteht nur dadurch, dass das Modell den bisherigen Text mitliest. Wird dieser Text lang, verliert das Modell frühere Festlegungen leichter aus dem Blick.

Ein Grund dafür ist das Kontextfenster. So nennt man die Menge an Text, die ein Modell gleichzeitig berücksichtigen kann. Sie ist begrenzt. Was am Anfang eines sehr langen Gesprächs stand, kann herausfallen oder nur noch schwach wirken. Danach erfindet das Modell die Details neu, oft anders als vorher.

Hinzu kommt der Zufall bei der Wortwahl. Damit Antworten nicht monoton klingen, wählt das Modell nicht immer das allerwahrscheinlichste Wort. Diese Einstellung heißt Temperatur. Eine hohe Temperatur macht Texte lebendiger, aber auch sprunghafter. Entwickler senken sie deshalb bei Aufgaben, bei denen Genauigkeit wichtiger ist als Stil.

Woran man Inkohärenz im Alltag erkennt

Am häufigsten begegnet einem Inkohärenz in langen Chats. Man vereinbart am Anfang eine Regel, etwa das Duzen oder eine bestimmte Sprache. Nach zwanzig Nachrichten hält sich das Programm plötzlich nicht mehr daran. Auch bei Rechenwegen passiert es: Die einzelnen Schritte stimmen, das Endergebnis passt aber nicht dazu.

In Fachnachrichten taucht der Begriff auf, wenn neue Modelle verglichen werden. Testverfahren messen dann, ob ein Modell über zehntausende Wörter hinweg konsistent bleibt. Firmen werben mit größeren Kontextfenstern und mit Funktionen, die eine Antwort noch einmal auf Widersprüche prüfen, bevor sie ausgegeben wird.

Für Nutzer gibt es einfache Gegenmittel. Wichtige Vorgaben kann man wiederholen, statt sich auf das Gedächtnis des Programms zu verlassen. Lange Aufgaben teilt man besser in kleinere Schritte auf. Und bei jedem längeren Text lohnt die Kontrolle, ob Anfang und Ende noch dasselbe behaupten.