Social Manipulation
Social Manipulation bezeichnet den gezielten Versuch, die Meinungen, Gefühle oder Entscheidungen vieler Menschen zu beeinflussen, ohne dass diese es merken. Mit KI-Werkzeugen lässt sich das heute in großem Maßstab und sehr billig betreiben.
Menschen ändern ihre Meinung, weil sie überzeugt werden. Das ist normal und passiert jeden Tag. Social Manipulation meint etwas anderes: Jemand beeinflusst gezielt, was viele Menschen glauben oder tun, und verschweigt dabei, dass er dahintersteckt. Typische Mittel sind erfundene Nachrichten, gefälschte Profile in sozialen Netzwerken oder Bilder, die es so nie gegeben hat. Der Unterschied zur ehrlichen Werbung liegt in der Täuschung über die Absicht und über den Absender. In Debatten über künstliche Intelligenz taucht der Begriff auf, weil Programme solche Inhalte inzwischen automatisch und in riesigen Mengen erzeugen können.
Warum Fälschungen plötzlich massenhaft möglich sind
Früher war Manipulation vor allem eine Frage des Aufwands. Wer tausend überzeugende Kommentare schreiben wollte, brauchte ein Büro voller Leute. Genau solche Büros gab es, etwa die berüchtigte russische Internet Research Agency. Heute erledigt ein Sprachmodell diese Arbeit in Minuten, für wenige Euro Rechenkosten.
Damit verschiebt sich das Kräfteverhältnis. Einzelne Personen oder kleine Gruppen können Kampagnen fahren, die früher Staaten vorbehalten waren. Gleichzeitig wird die Qualität besser: Texte enthalten keine auffälligen Grammatikfehler mehr, Bilder wirken echt, Stimmen klingen wie die realer Personen. Die alten Erkennungsmerkmale funktionieren nicht mehr.
Die Folgen betreffen nicht nur Wahlen. Auch Aktienkurse reagieren auf gefälschte Meldungen. Im Mai 2023 verbreitete sich ein KI-generiertes Bild einer angeblichen Explosion am Pentagon. Der US-Aktienindex S&P 500 gab kurzzeitig nach, bevor die Fälschung aufflog. Das zeigt, wie schnell manipulierte Inhalte reale Kosten verursachen.
Die Werkzeuge hinter den Kampagnen
Der erste Baustein ist die Erzeugung von Inhalten. Sprachmodelle schreiben Kommentare, Leserbriefe oder ganze Nachrichtenartikel. Bildgeneratoren liefern passende Fotos dazu. Sogenannte Deepfakes, also gefälschte Video- oder Tonaufnahmen echter Personen, ergänzen das Arsenal.
Der zweite Baustein ist die Verteilung. Automatisierte Konten, oft Bots genannt, posten die Inhalte gleichzeitig auf vielen Plattformen. Sie folgen sich gegenseitig und liken sich, damit ein Thema populär aussieht. Fachleute nennen das Astroturfing: Es sieht aus wie eine Graswurzelbewegung, ist aber künstlicher Rasen.
Der dritte Baustein ist die Zielgenauigkeit. Wer weiß, welche Sorgen eine bestimmte Gruppe hat, kann Botschaften darauf zuschneiden. Man spricht von Mikrotargeting. Ein häufiger Irrtum ist die Annahme, Manipulation wolle immer eine bestimmte Meinung durchsetzen. Oft reicht es, Verwirrung zu stiften, damit Menschen keiner Quelle mehr trauen.
Von der Enkeltrick-SMS bis zum EU-Gesetz
Die persönlichste Form begegnet vielen im Posteingang. Betrugsmails wirken heute sprachlich sauber, weil sie von einem Modell formuliert wurden. Es gibt Fälle, in denen Kriminelle die geklonte Stimme eines Verwandten am Telefon einsetzten. Der klassische Enkeltrick bekommt damit eine technische Aufrüstung.
In den Nachrichten taucht der Begriff meist rund um Wahlen auf. Plattformen wie Meta oder TikTok veröffentlichen regelmäßig Berichte über gelöschte Netzwerke gefälschter Konten. Auch Finanzaufsichten warnen vor manipulierten Anlagetipps, etwa gefälschten Videos bekannter Unternehmer, die zu Krypto-Investitionen raten.
Politisch reagiert die EU mit dem AI Act, ihrem Gesetz zur künstlichen Intelligenz. Es verbietet ausdrücklich Systeme, die Menschen unterschwellig manipulieren und ihnen dadurch schaden. Außerdem müssen KI-erzeugte Inhalte gekennzeichnet werden. Ob solche Regeln in der Praxis greifen, ist offen. Am zuverlässigsten hilft weiterhin eine schlichte Gewohnheit: bei einer aufregenden Meldung kurz prüfen, wer sie ursprünglich verbreitet hat.