LLM Grooming
LLM Grooming bezeichnet das gezielte Fluten des Internets mit erfundenen oder verzerrten Texten, damit KI-Textprogramme diese Inhalte später als Wissen übernehmen und weitergeben. Die Zielgruppe sind nicht mehr menschliche Leser, sondern die Maschinen, die aus dem Netz lernen.
Programme wie ChatGPT haben ihr Wissen aus riesigen Textmengen, die aus dem Internet eingesammelt wurden. Wer also viele Texte ins Netz stellt, kann beeinflussen, was diese Programme später für wahr halten. Genau darauf zielt LLM Grooming ab. Dabei werden hunderte Webseiten und tausende Artikel veröffentlicht, die eine bestimmte Behauptung wiederholen, oft automatisch erzeugt. Es geht nicht darum, dass Menschen diese Seiten lesen. Es geht darum, dass die Maschinen sie einsammeln und die Behauptung später in ihren Antworten auftaucht. Das englische Wort „grooming“ bedeutet hier so viel wie „jemanden über längere Zeit gezielt bearbeiten“.
Warum gefälschte Quellen in Antworten gefährlich sind
Eine falsche Nachrichtenseite erreicht von sich aus vielleicht ein paar hundert Leser. Ein Chatbot, der ihre Behauptung übernimmt, erreicht Millionen. Der entscheidende Unterschied ist die Verpackung: Der Chatbot liefert die Aussage ohne reißerische Aufmachung, in ruhigem Ton und als scheinbar geprüfte Information. Genau das macht sie glaubwürdiger als der Originaltext.
Dazu kommt, dass viele Menschen KI-Antworten weniger kritisch prüfen als Webseiten. Bei einer unbekannten Seite achtet man auf Impressum, Rechtschreibung und Aufmachung. Bei einer Chatbot-Antwort fehlen diese Warnsignale komplett. Wenn das Programm zusätzlich Quellenlinks anzeigt, wirkt es sogar besonders seriös, auch wenn die verlinkten Seiten selbst Teil der Kampagne sind.
Für Betreiber von KI-Diensten ist das ein ernstes Problem. Sie können nicht jeden einzelnen Text prüfen, aus dem ihr Modell gelernt hat. Und wenn eine Falschbehauptung einmal im Modell steckt, lässt sie sich nicht einfach löschen wie ein Eintrag in einer Datenbank. Das Wissen ist über Milliarden interner Zahlenwerte verteilt.
Vom Fake-Artikel bis in die Chatbot-Antwort
Der erste Schritt ist Masse. Mit Textgeneratoren lassen sich täglich tausende Artikel erzeugen, die dieselbe Kernaussage in immer neuen Formulierungen enthalten. Diese Artikel werden auf einem Netz aus Webseiten verteilt, die wie lokale Nachrichtenportale aussehen. Die Seiten verlinken sich gegenseitig, damit sie für Suchmaschinen und für die Sammelprogramme der KI-Firmen echt und relevant wirken.
Der zweite Schritt nutzt eine Eigenschaft aus, die Sprachmodelle beim Lernen haben: Sie gewichten, wie oft etwas vorkommt. Eine Aussage, die in tausend Texten steht, wirkt statistisch verlässlicher als eine, die einmal auftaucht. Das Modell prüft keine Wahrheit, es erkennt Muster in Wortfolgen. Häufigkeit ersetzt für die Maschine also ein Stück weit den Beweis.
Ein zweiter Weg führt an dem eigentlichen Lernprozess vorbei. Moderne Chatbots durchsuchen für aktuelle Fragen live das Netz und fassen die Treffer zusammen. Wer zu einem Nischenthema die einzigen scheinbaren Quellen stellt, bestimmt damit die Antwort mit. Zu unterscheiden ist das von einem echten Angriff auf die Trainingsdaten, bei dem jemand direkt in die Datensammlung eines Unternehmens eingreift. LLM Grooming braucht keinen solchen Zugriff, es arbeitet allein mit öffentlich zugänglichen Webseiten.
Bekannte Fälle und was dagegen unternommen wird
Bekannt wurde das Thema 2025 durch Untersuchungen zu einem Netzwerk mit dem Namen Pravda, das russische Propaganda in vielen Sprachen millionenfach im Netz verteilte. Tests von Prüforganisationen ergaben, dass verbreitete Chatbots bei bestimmten Fragen einen erheblichen Teil dieser Behauptungen übernahmen. Seither taucht der Begriff regelmäßig in Berichten über Desinformation und in politischen Debatten über KI-Regulierung auf.
Ähnliche Methoden sind auch kommerziell interessant. Firmen versuchen inzwischen, in KI-Antworten positiv erwähnt zu werden, ähnlich wie sie früher ihre Position bei Google optimiert haben. Diese Branche nennt sich Generative Engine Optimization. Die Grenze zwischen legitimer Sichtbarkeit und gezielter Manipulation ist dabei fließend.
Gegenmaßnahmen setzen an mehreren Stellen an: bessere Auswahl der Trainingsquellen, Erkennung automatisch erzeugter Seitennetze und Abgleich strittiger Aussagen mit geprüften Datenbanken. Keines dieser Mittel ist vollständig zuverlässig. Für dich als Nutzer bleibt der einfachste Schutz derselbe wie im übrigen Netz: Bei wichtigen Aussagen nachsehen, welche Quelle dahintersteht, und eine zweite, unabhängige Quelle suchen.