Ist das echt? So erkennst du Deepfakes
- Veröffentlicht: 04.11.2022
- 18:25 Uhr
- Carina Neumann-Mahlkau
Deepfakes legen Politiker:innen falsche Worte in den Mund oder machen Prominente zu Porno-Stars. Der Identitäts-Betrug und die Verbreitung von Fake News erreichen so eine neue Dimension. Die Technik hat aber auch Potentiale, etwa in der Medizin oder in der Film-Branche.
Deepfake: Was steckt hinter der Technologie?
Deepfakes sind täuschend echte Manipulationen von Videos, Bildern und Ton-Aufnahmen mithilfe von künstlicher Intelligenz (KI).
Der Begriff wurde erstmals 2017 einer breiten Öffentlichkeit bekannt und leitet sich von "Deep Learning" ab - das ist eine Methode von maschinellem Lernen, das künstliche neuronale Netze einsetzt.
Die KI scannt die Mimik von Menschen anhand von Bild-Material und ahmt sie dann nahezu perfekt nach. Am häufigsten kommt "Face Swapping" zum Einsatz: Dabei werden Gesichter von Personen in Fotos und Videos ausgetauscht oder auch Stimmen und Worte sehr authentisch verändert.
Die Deepfake-Technik ist sogar in der Lage, echt wirkende Personen zu kreieren, die eigentlich nicht existieren. Inzwischen geht das sogar live, also in Echtzeit, zum Beispiel während Video-Konferenzen.
Das Ganze ist nicht ungefährlich - vor allem, wenn es um vertrauliche Informationen oder politische Hetze geht. Die stetig smarter werdende Technik macht es selbst Expert:innen schwer, Täuschungen zu enttarnen. In der Technologie steckt aber auch nützliches Potenzial. Weiter unten erfährst du mehr dazu.
Deepfake-Chronik: bekannte Fälle
😲 2017 wurde ein Video veröffentlicht, in dem der ehemalige US-Präsident Barack Obama unter anderem Donald Trump als "kompletten Volltrottel" betitelt.
🤔 Natürlich hat Obama das nie wirklich gesagt. Es war eine Deepfake-Aktion des amerikanischen Kabarettisten Jordan Peele und Buzzfeed. Sie zeigte erfolgreich, wie einfach selbst Laien Medien-Material manipulieren können.
👯♀️ Noch im selben Jahr tauchten Deepfake-Videos mit Stars wie Emma Watson, Scarlett Johansson und Taylor Swift als Porno-Darstellerinnen auf. Per "Face Swapping" tauschten die Verantwortlichen die Gesichter der echten Darstellerinnen mit denen der Celebrities aus.
🧐 2021 wunderten sich Millionen Menschen über kuriose Blödel-Videos des Schauspielers Tom Cruise auf TikTok und YouTube. Die Clips stammten jedoch nicht wirklich von ihm, sondern waren Deepfakes des belgischen Video-Künstlers Chris Umé. Er wollte mit "@deeptomcruise" eine Debatte anstoßen: Wie gefährlich sind Deepfakes?
🇺🇦 Selbst Kriegs-Propaganda macht sich Deepfakes zu Nutze - mit gefährlichen Folgen. 2022 kursierte ein Video auf zwei gehackten ukrainischen Fernsehsendern sowie im Netz. Darin befahl der ukrainische Präsident Wolodymyr Selenskyj seinen Streitkräften, vor Russlands Angriffskrieg zu kapitulieren. Zwar war der Fake schlecht gemacht - doch bis das Video entfernt und vom wahren Selenskyj dementiert wurde, hatten es allein auf Twitter über 85.000 Menschen bereits angeklickt.
📱 Es mehren sich intuitive Apps, die Deepfakes auch Laien zugänglich machen - wie "FaceSwap", "DeepFaceLab", "ZAO" oder "Reface".
😳 Die Deepfake-Technik entwickelt sich ständig weiter. Schätzungen zufolge verdoppelt sich die Anzahl der Fake-Inhalte im Netz alle sechs Monate.
"Deeptomcruise" revealed: So fälschte ein Video-Künstler den Schauspieler
Die Identität wechseln wie ein Chamäleon: Das macht Deepfakes so gefährlich
Deepfakes bergen ein großes Gefahren-Potenzial. Sie können nicht nur rufschädigend sein. Expert:innen warnen auch vor Fake News durch manipuliertes Material in den Medien. Das kann vor allem in der Politik für Unruhe sorgen.
Auch für die digitalisierte Geschäftswelt stellen Deepfakes ein Risiko dar. Die Fälschungen können bereits live in Video-Konferenzen erstellt werden. Auf diese Weise könnten sich zum Beispiel Kriminelle für Angestellte ausgeben und so an sensible Daten gelangen.
Dieses Deepfake-Video mit Obama zeigt, wie echt die Täuschungen wirken können
Externer Inhalt
Deepfake oder virtueller Charakter: Wo liegen die Unterschiede?
Deepfakes und virtuelle Charaktere bedienen sich an ähnlichen, KI-basierten Technologien. Diese ist mittlerweile so ausgereift, dass es auf den ersten Blick schwer erkennbar ist, ob es sich um eine wirkliche Person oder eine Animation handelt.
Deepfakes nutzen reales Bild- und Video-Material. Mithilfe von Bild und Ton kann ein Deepfake so eine gefälschte Version einer realen Person darstellen - die alles sagt und tut, was ihr vorgegeben wird.
Im Gegensatz dazu werden virtuelle Charaktere komplett digital erschaffen, ohne reale Vorlage. Damit brechen sie die Grenzen zwischen Realität und virtueller Welt immer weiter auf. Sogenannte 3D-Avatare spielen für Zukunfts-Technologien von der Gaming-Welt bis zum Metaverse eine zentrale Rolle. Auf Social Media werden Virtuelle Influencer immer populärer.
Externer Inhalt
Wie kannst du dich gegen Deepfakes schützen?
🤨 Dein Gegenüber im Video verhält sich komisch oder du hast ein ungutes Gefühl? Dann bitte ihn oder sie doch mal höflich, die Hand vors Gesicht zu führen. Entsteht dabei eine Störung im Bild, handelt es sich mit hoher Wahrscheinlichkeit um einen Live-Deepfake.
🌫 Achte auf den Hintergrund: Vom Computer erzeugte Hintergründe wirken manchmal verschwommen oder unnatürlich und lassen die Kanten/Linien der Person verwaschen wirken.
🤓 Accessoires und Haare: Schmuck wie Ohrringe, Brillen und Hüte können für Softwares zum Problem werden und unvollständig erscheinen. Dasselbe gilt für Haare und Haar-Linien.
👨💻 Einige Firmen und Forschungs-Einrichtungen arbeiten bereits an Technologien, um Deepfakes zu entlarven.
🤔 Facebook rief gemeinsam mit Partnern wie Microsoft oder Amazon die "Deepfake Detection Challenge" (kurz: DFDC) ins Leben: Ein Algorithmus soll KI-gesteuertes Material von echtem unterscheiden.
🔍 Microsoft will zukünftig mit dem Video Authenticator Foto- und Videomaterial analysieren - und so Deepfakes ermitteln.
Hinweise auf Deepfakes erkennen
Die guten Seiten von Deepfakes
😃 Deepfakes sorgen bei Apps wie "Reface" für Lacher, wenn etwa James Bond oder Madonna performen und plötzlich dein Gesicht tragen.
🗣️ "Project Revoice" ist ein medizinisches Projekt: Menschen, die krankheitsbedingt nicht mehr sprechen können, erhalten durch die Deepfake-Technik einen authentischen Ersatz für ihre Stimme.
🎥 In der Film-Branche sind Deepfakes eine sichere Alternative für gefährliche Stunts, in denen Doubles bisher ihr Leben riskierten.
🎙 Das Start-Up "Flawless" möchte die Synchron-Branche revolutionieren - mihilfe von Deepfakes. Die Firma stellte bereits eine Software vor, bei der sich die Lippen der Schauspieler:innen in Filmen den Synchron-Stimmen anpassen. Zusammen mit einer künstlichen Intelligenz wird das Film-Erlebnis so unglaublich authentisch: Sie überträgt nämlich die Stimmen der Original-Darsteller:innen in alle beliebigen Fremdsprachen.