Deep Fake ist nach Artikel 3 Nummer 60 der KI-Verordnung ein KI-generierter oder manipulierter Bild-, Audio- oder Videoinhalt, der existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.
Der Begriff ist älter als die Verordnung und älter als die Technik, mit der er heute verbunden wird – er entstand 2017 auf Reddit, lange bevor Diffusionsmodelle das Feld übernahmen.
Zusammenfassung
Deepfakes entstanden ursprünglich mit Generative Adversarial Networks (GANs), die Gesichter in Videos austauschen – meist über eine Encoder-Decoder-Architektur mit einem gemeinsamen Encoder und personenspezifischen Decodern. Seit den frühen 2020er-Jahren übernehmen zunehmend Diffusionsmodelle diese Rolle, dieselbe technische Grundlage, die auch Bildgeneratoren wie DALL·E und Videogeneratoren wie Sora antreibt.
Begriffsgeschichte
Der Name stammt von einem Reddit-Nutzer mit dem Pseudonym „deepfakes”, der Ende 2017 im Subreddit r/deepfakes selbsterstellte Face-Swap-Videos teilte – überwiegend Gesichter von Prominenten in fremdes Videomaterial montiert, darunter auch explizite Inhalte ohne Einwilligung der abgebildeten Personen. Der Begriff verband von Anfang an die Technik (deep learning) mit der Täuschung (fake) – eine Doppeldeutigkeit, die bis heute den öffentlichen Diskurs prägt.
Die Kennzeichnungspflicht
Artikel 50 der KI-Verordnung ordnet Deepfakes der Risikoklasse „begrenztes Risiko” zu und verlangt eine Kennzeichnungspflicht: Betreiber, die KI-Systeme zur Erzeugung oder Manipulation von Bild-, Audio- oder Videoinhalten einsetzen, müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Anbieter synthetischer Inhalte müssen zusätzlich eine maschinenlesbare Kennzeichnung vorsehen. Eine Ausnahme gilt für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke – hier genügt eine Kenntlichmachung, die den Werkgenuss nicht beeinträchtigt, ebenso für Zwecke der Strafverfolgung.
Anwendbar ist die Pflicht grundsätzlich seit dem 2. August 2026. Für Systeme, die bereits vor diesem Datum in Verkehr gebracht wurden, verschiebt der Digitale Omnibus die Frist auf den 2. Dezember 2026 – denselben Tag, an dem zwei neue, durch den Digitalen Omnibus ergänzte verbotene Praktiken nach Artikel 5 in Kraft treten: KI-generierte nicht-einvernehmliche intime Inhalte (sogenannte „Nudifying”-Apps) und KI-generiertes Material sexuellen Kindesmissbrauchs.
Anwendungsfelder und Kontroversen
Deepfakes haben die politische Debatte mehrfach geprägt: 2022 kursierte während der russischen Invasion ein gefälschtes Video, in dem der ukrainische Präsident Wolodymyr Selenskyj angeblich zur Kapitulation aufrief. Im Januar 2024 verbreiteten sich explizite KI-generierte Bilder der Musikerin Taylor Swift viral und lösten eine breite öffentliche Diskussion über nicht-einvernehmliche Deepfake-Pornografie aus – ein Phänomen, das laut einer Analyse von Deeptrace aus dem Jahr 2019 bereits damals rund 96 Prozent aller online kursierenden Deepfakes ausmachte.
Auch wirtschaftlich sind Deepfakes ein reales Risiko: 2019 wurde berichtet, dass die Geschäftsführung eines britischen Energieunternehmens per Audio-Deepfake – einem Stimmklon des Konzernchefs – zu einer Überweisung von 220.000 Euro veranlasst wurde.
Zur technischen Erkennung zeigen Untersuchungen deutliche Grenzen: Bei der Deepfake Detection Challenge 2020 (Meta, AWS, Partnership on AI) erreichte das beste Erkennungsmodell auf 4.000 Testvideos eine Genauigkeit von 65 Prozent. Eine MIT-Studie vom Dezember 2021 fand bei Menschen eine Erkennungsgenauigkeit von 69 bis 72 Prozent – deutlich unter hundert Prozent, in beiden Fällen.
Verwandte Begriffe
- Generative Adversarial Networks – die ursprüngliche technische Grundlage von Deepfakes
- Diffusionsmodelle – die heute dominierende Technik für synthetische Medien
- Halluzination – verwandtes Phänomen falscher, aber überzeugend wirkender KI-Ausgaben
- EU AI Act – die Verordnung, deren Artikel 3 und 50 diesen Begriff regeln
- Begriffsbestimmungen der KI-Verordnung – alle 68 Legaldefinitionen im Überblick
Quellenangaben
- Europäisches Parlament und Rat, 2024. Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, Artikel 3 Nummer 52, Artikel 5 Absatz 1 Buchstabe d, Artikel 6 Absatz 3, Artikel 26 Absatz 11, Anhang III, Erwägungsgrund 26. Amtsblatt der Europäischen Union, 12. Juli 2024.
- Cole, Samantha, 2018. We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now. Motherboard/Vice.
- Ajder, Henry u. a., 2019. The State of Deepfakes: Landscape, Threats, and Impact. Deeptrace.
- Meta, Amazon Web Services, Partnership on AI, 2020. Deepfake Detection Challenge Results.
- Groh, Matthew u. a., 2021. Deepfake Detection by Human Crowds, Machines, and Machine-Informed Crowds. Massachusetts Institute of Technology, Dezember 2021.