Textgenerierung

Textgenerierung heißt: Ein Computerprogramm schreibt selbst Text, statt ihn nur zu kopieren oder aus vorgefertigten Bausteinen zusammenzusetzen. Man gibt einen Anfang vor, etwa eine Frage oder einen halben Satz, und das Programm schreibt weiter. Dabei entsteht Satz für Satz etwas, das genau so vorher nirgends stand. Die Programme dahinter haben zuvor enorme Mengen an Texten gelesen und daraus gelernt, welche Wörter typischerweise aufeinander folgen. Sie verstehen den Inhalt nicht so, wie ein Mensch ihn versteht. Sie treffen sehr gute Vorhersagen darüber, wie ein Text sinnvoll weitergehen könnte.

Warum Maschinen plötzlich schreiben können

Bis vor wenigen Jahren konnten Computer nur sehr starre Texte erzeugen. Ein Wetterbericht aus Messdaten war möglich, ein freier Aufsatz nicht. Die Sätze klangen hölzern, weil jemand jede Formulierung von Hand vorgegeben hatte. Seit etwa 2020 hat sich das grundlegend geändert. Programme wie ChatGPT schreiben Texte, die sich flüssig lesen und oft nicht von menschlichen Texten zu unterscheiden sind.

Das hat wirtschaftliche Folgen, über die auch Finanzmedien viel berichten. Schreiben war lange eine rein menschliche Tätigkeit und entsprechend teuer. Produktbeschreibungen, Serienbriefe, erste Entwürfe von Berichten: All das lässt sich heute in Sekunden erzeugen. Unternehmen investieren Milliarden in diese Technik, weil sie einen großen Teil der Büroarbeit betrifft.

Gleichzeitig entstehen neue Probleme. Ein Programm kann falsche Angaben in perfekt formulierten Sätzen liefern. Solche erfundenen, aber überzeugend klingenden Aussagen nennt man Halluzinationen. Außerdem lassen sich Falschmeldungen und Spam nun in beliebiger Menge produzieren. Beides sind Gründe, warum Gesetzgeber sich mit dem Thema beschäftigen.

Wort für Wort statt Satz für Satz

Der Kern ist einfacher, als man denkt. Das Programm bekommt den bisherigen Text und berechnet, welches nächste Textstück am wahrscheinlichsten folgt. Diese Textstücke heißen Tokens und sind meist etwa so lang wie eine Silbe. Ist das Stück gewählt, wird es angehängt, und die Rechnung beginnt von vorn. So wächst der Text Schritt für Schritt, bis das Programm ein Ende für passend hält.

Dabei wird nicht immer die wahrscheinlichste Fortsetzung genommen. Ein Einstellwert namens Temperatur steuert, wie viel Zufall erlaubt ist. Niedrige Temperatur liefert nüchterne, vorhersehbare Texte, wie man sie für eine Zusammenfassung will. Höhere Temperatur bringt mehr Abwechslung, aber auch mehr Unsinn. Deshalb liefert dieselbe Frage zweimal gestellt selten exakt dieselbe Antwort.

Ein häufiger Irrtum: Viele halten solche Programme für eine Suchmaschine mit besserer Sprache. Das stimmt nicht. Eine Suchmaschine sucht vorhandene Seiten, ein Textgenerator formuliert neu. Nur wenn man ihm gezielt Quellen mitgibt, stützt er sich auf konkrete Dokumente. Ohne diese Hilfe schöpft er allein aus dem, was beim Training hängen geblieben ist.

Vom Chatfenster bis zur Autovervollständigung

Am sichtbarsten ist Textgenerierung in Chatprogrammen wie ChatGPT, Claude oder Gemini. Jede Antwort dort entsteht Zeichen für Zeichen, was man am tippenden Erscheinen der Wörter erkennen kann. Auch die Übersetzung in DeepL oder die Zusammenfassung langer Artikel gehören dazu. In Suchmaschinen erscheinen die kurzen Antworttexte über den Trefferlisten ebenfalls auf diese Weise.

Weniger auffällig steckt die Technik in Alltagswerkzeugen. E-Mail-Programme schlagen ganze Antwortsätze vor. Entwicklungsumgebungen für Programmierer ergänzen fehlenden Programmcode, was technisch dasselbe Verfahren ist. Kundendienst-Systeme formulieren erste Antworten auf Anfragen, die ein Mensch dann nur noch prüft.

In Wirtschaftsnachrichten taucht der Begriff meist im Zusammenhang mit Kosten auf. Jeder erzeugte Text verbraucht Rechenzeit in großen Rechenzentren, und Anbieter rechnen häufig pro tausend Tokens ab. Wer die Preise vergleicht, achtet deshalb auf zwei Zahlen: den Preis für den eingegebenen Text und den für den erzeugten. Ausgabe ist dabei fast immer teurer als Eingabe.