Deepfake

Ein Deepfake ist eine Fälschung von Bild, Video oder Ton, die ein Computerprogramm erzeugt hat. Typisch ist ein Video, in dem eine bekannte Person Sätze sagt, die sie nie gesagt hat. Möglich sind auch reine Tonfälschungen: eine Stimme klingt am Telefon wie die eines Freundes oder Chefs. Das Wort setzt sich aus zwei Teilen zusammen. „Fake“ heißt Fälschung, und „deep“ verweist auf die Technik dahinter, das sogenannte Deep Learning. Damit sind Programme gemeint, die aus sehr vielen Beispielen selbst Muster lernen, statt jede Regel vorgegeben zu bekommen. Ein Deepfake ist also keine mühsame Bildbearbeitung von Hand, sondern das Ergebnis eines Systems, das gelernt hat, wie ein bestimmtes Gesicht oder eine bestimmte Stimme funktioniert.

Was passiert, wenn man Videos nicht mehr glauben kann

Bewegte Bilder galten lange als starker Beweis. Ein Foto konnte man retuschieren, ein Video schien schwerer zu manipulieren. Diese Sicherheit ist weg. Wenn jedes Video gefälscht sein könnte, verlieren auch echte Aufnahmen an Überzeugungskraft. Fachleute nennen das die Lügner-Dividende: Wer bei einer echten Aufnahme erwischt wird, behauptet einfach, sie sei ein Deepfake.

Konkret angerichtet wird der Schaden heute vor allem auf drei Feldern. Erstens Betrug: Kriminelle rufen Mitarbeiter an und imitieren die Stimme der Geschäftsführung, um Überweisungen auszulösen. In einem bekannten Fall in Hongkong verlor ein Konzern 2024 rund 25 Millionen US-Dollar, nachdem ein Angestellter in einer Videokonferenz mit gefälschten Kollegen saß. Zweitens Politik: kurz vor Wahlen tauchen gefälschte Sprachnachrichten von Kandidaten auf.

Drittens, und zahlenmäßig am größten, sind pornografische Fälschungen ohne Einwilligung der abgebildeten Person. Studien zufolge macht diese Kategorie den weit überwiegenden Teil aller im Netz kursierenden Deepfakes aus. Betroffen sind nicht nur Prominente, sondern auch Privatpersonen und Schülerinnen. In Deutschland kann das unter anderem als Verletzung des Persönlichkeitsrechts und als Beleidigung verfolgt werden.

Wie ein Gesicht aus Beispielen entsteht

Am Anfang steht immer Material. Das Programm bekommt viele Bilder oder Tonaufnahmen der Zielperson zu sehen und zu hören. Daraus lernt es, wie sich dieses Gesicht bei verschiedenen Blickwinkeln und Lichtverhältnissen verhält. Bei Stimmen lernt es Klangfarbe, Sprechtempo und Betonung. Früher brauchte man dafür Stunden an Material, heute genügen bei guten Systemen wenige Minuten.

Für das eigentliche Fälschen gibt es zwei verbreitete Ansätze. Beim älteren arbeiten zwei Programme gegeneinander: eines erzeugt Fälschungen, das andere versucht sie zu entlarven. Beide werden dabei besser, bis die Fälschungen kaum noch auffallen. Dieses Prinzip heißt GAN, kurz für erzeugendes gegnerisches Netzwerk. Neuere Systeme nutzen stattdessen Diffusionsmodelle: Sie starten mit reinem Bildrauschen und rechnen es schrittweise in ein klares Bild um.

Erkennen lässt sich eine Fälschung an Kleinigkeiten, aber immer schlechter. Verräterisch sind oft Übergänge am Haaransatz, seltsame Zähne, Hände mit falscher Fingerzahl oder Ohrringe, die zwischen zwei Bildern springen. Bei Stimmen fehlt häufig das Atmen. Verlässlicher sind technische Herkunftsnachweise: Kameras und Programme können eine fälschungssichere Signatur in die Datei schreiben, die belegt, woher sie stammt. Die Industrie arbeitet dafür am Standard C2PA.

Von Filmstudios bis zur Enkeltrick-Masche

Die gleiche Technik hat auch legale Anwendungen, und die sind Alltag. Filmstudios lassen Schauspieler jünger aussehen oder synchronisieren Lippenbewegungen in andere Sprachen. Werbespots werden mit einer gemieteten digitalen Stimme in dreißig Märkten ausgespielt. Menschen, die ihre Stimme durch Krankheit verlieren, lassen sie vorher digital nachbauen. Der Unterschied zum Deepfake im schlechten Sinn liegt nicht in der Technik, sondern in der Einwilligung und in der Kennzeichnung.

In den Nachrichten begegnet dir der Begriff meist in drei Zusammenhängen: Wahlkämpfe, Anlagebetrug mit gefälschten Prominenten-Empfehlungen und Regulierung. Die KI-Verordnung der Europäischen Union verlangt, dass künstlich erzeugte Inhalte als solche gekennzeichnet werden. Große Plattformen wie YouTube und TikTok fordern von Uploadern entsprechende Angaben.

Praktisch hilft dir eine einfache Regel mehr als jeder Blick auf die Bildqualität: Prüfe die Quelle, nicht das Bild. Berichtet keine seriöse Redaktion über das angeblich Gezeigte, ist Misstrauen angebracht. Und wenn eine bekannte Stimme am Telefon Geld oder Passwörter verlangt, legst du auf und rufst unter der gespeicherten Nummer zurück.