Die Erstellung und Verbreitung von Audio‑, Video‑ oder Bildinhalten, die durch synthetische Medientechniken (maschinelles Lernen, generative Modelle, digitales Compositing) erzeugt oder wesentlich verändert wurden und die tatsächliche Ereignisse, Aussagen, Identität oder Kontext gegenüber Betrachtern verfälschen.

Prinzip

Synthetische Medien können die wahrgenommene Realität wesentlich verändern, weil generative Verfahren Gesichtsbewegungen, Stimmen und kontextuelle Hinweise reproduzieren; ohne Provenienz und kontextuelle Verifikation nehmen Rezipienten synthetische Inhalte möglicherweise als authentisch an und behandeln sie als Beleg.

Demonstration

Illustratives Szenario: Situation — Ein kurzes Video, das eine öffentliche Person angeblich bei der Befürwortung einer falschen Politik zeigt, wird hochgeladen und weit verbreitet. Erkennung — Technische Analyse findet inkonsistente Kompressionsartefakte und fehlende Metadaten der Originalquelle; kontextuelle Prüfungen finden kein entsprechendes Redeereignis. Handlung — Plattformen kennzeichnen den Clip als synthetisch bis zur Verifikation, Faktenprüfer veröffentlichen technische und kontextuelle Befunde. Folge — Frühes Labeling und Erläuterung verringern die weitere Verbreitung und helfen Zielgruppen, frühere Teilungen neu zu interpretieren (illustratives Szenario).

Fehlanwendung

Fehlanwendung: Jedes bearbeitete oder manipulierte Medium als „Deepfake“ zu bezeichnen (Farbkorrektur, übliche Schnitte, Voice‑over für Übersetzung). Fehler: die Unterscheidung zwischen harmloser Bearbeitung und synthetischer Fälschung zu verwischen; der Begriff sollte für materiell synthetische Inhalte verwendet werden, die Authentizität oder Identität wahrscheinlich täuschen.

Konsequenz

Folgen: Die Verbreitung überzeugender synthetischer Medien kann falsche Überzeugungen erzeugen, Reputation schädigen, Betrug oder Erpressung ermöglichen und das Vertrauen in authentische audiovisuelle Belege untergraben; außerdem erhöht sie die Kosten der Verifikation und kann legitime nutzergenerierte Inhalte hemmen.

Umkehrung

Einschränkung: Nicht alle synthetischen Medien sind täuschend — künstlerische, satirische oder einvernehmliche synthetische Produktionen unterscheiden sich in Absicht und Kontext. Zudem sind niedrigqualitative oder amateurhafte Synthesen oft leicht zu widerlegen und daher weniger nachhaltig wirkend; die Definition zielt auf materiell täuschende Verbreitung ab.

Abgrenzung

Eindeutig innerhalb — Ein KI‑generiertes Video, das eine reale Person zeigt, die Worte sagt, die sie nie gesagt hat, und ohne Zustimmung verbreitet wird. Randfall — Ein kurzer Clip, der aus echtem Filmmaterial herausgeschnitten wurde und den Kontext ändert, ohne generative Synthese zu verwenden; die Bewertung hängt davon ab, ob die Änderung die intendierte Bedeutung wesentlich verändert. Eindeutig außerhalb — Standard‑Kameraeffekte, Kompressionsartefakte oder autorisierte kreative Bearbeitungen, die klar als solche gekennzeichnet sind.

Semantische Spannung

Spannung: Authentizität/Vertrauen ↔ Kreativer Ausdruck/Innovation. Maßnahmen zur Eindämmung täuschender Deepfakes (Provenienzkennzeichnung, Entfernung) können legitime kreative, satirische oder einvernehmliche Nutzungen synthetischer Medien beeinträchtigen.

Synthese

Tiefere Einsicht: Das wesentliche Problem bei der Verbreitung von Deepfakes ist das Zusammenbrechen von Quelle und Beweiswürdigkeit: synthetischer Realismus untergräbt die Vertrauenswürdigkeit audiovisueller Hinweise, deshalb bedarf die wirksame Antwort einer Kombination aus Provenienznormen, technischer Erkennung, kontextueller Korroborration und Medienkompetenz.