Was sind Deepfakes? Sind sie gefährlich?
„Deepfakes“ sind veränderte und gefälschte Medieninhalte – meistens Videos oder auch Bilder. Dabei geht es grundsätzlich um das Austauschen von Personen oder Gesichtern. Doch wie gefährlich ist Deepfake eigentlich?
Deepfakes sehen aus wie echte Gesichter und Aufnahmen, sind aber gefälscht – und manchmal gar nicht als Fake zu erkennen @Canva
Stellen Sie sich vor, Sie scrollen durch Ihre Facebook-Startseite und Ihnen wird ein Video einer rechtsradikalen Demonstration angezeigt. Das Problem daran? Sie erkennen plötzlich Ihr eigenes Gesicht in einer Interviewszene des Videos, obwohl Sie niemals auf dieser Demonstration waren. In diesem Szenario sind Sie ein Opfer von Deepfake geworden. Wir möchten mit dem folgenden Beitrag auf das Thema „Deepfake“ aufmerksam machen und erklären, was Deepfake genau ist und welche Auswirkungen dies haben kann.
Was sind Deepfakes?
Der Begriff setzt sich aus „Deep Learning“ und „Fake“ zusammen. Deep Learning bezeichnet die Methode des maschinellen Lernens, in dem künstliche neuronale Netzwerke eingesetzt werden, um Informationen in mehreren Schichten zu verarbeiten. Genau diese Methode wird eingesetzt, um diese Gesichts-Fälschungen (Fakes) automatisch erzeugen zu können.
GANs und Fake-Bilder
Doch zurück auf Anfang. Alles begann 2014 mit Fake Portraits. Hier wurden Gesichter von KIs (Künstlichen Intelligenzen)“erfunden“, die es in Wirklichkeit gar nicht gab. Das wurde durch den Einsatz sogenannter GANs “Generative Adversarial Networks” möglich. Hier arbeiten zwei KI-Agenten zusammen. Der eine fälscht das Bild, der andere überprüft, ob es eine Fälschung ist. Fliegt der Fake auf, steuert die Fälscher-KI nötigenfalls nach und verbessert das Bild. Am Anfang waren diese Fake-Portraits noch sehr verpixelt und eindeutig als Fälschung zu erkennen, doch durch den rasanten technischen Fortschritt, vor allem im Bereich der Bild-Auflösung und Rechenleistung, waren dem „Fake“ kaum noch Grenzen gesetzt.
2017 entwickelte NVIDIA eine stufenweise Erzeugung eines Fakebildes, indem in mehreren Schritten die Bildqualität, also die Pixeldichte, immer weiter ansteigt und so täuschend echt Bilder von Personen, die im realen Leben nicht existieren, entstehen konnten.
Der nächste Schritt war also nur logisch – Bewegtbild mit Deepfake.
Deepfakes erste Schritte
Im Herbst 2017 war es dann soweit: Der Reddit-Nutzer „deepfakes“ veröffentlicht die ersten Videos mit ausgetauschten Gesichtern. Und was sollte es anderes sein? Es waren Pornos mit den Gesichtern prominenter Frauen … Die Ergebnisse waren zwar noch leicht als Fälschung zu erkennen, der Spieltrieb tausender User war jedoch geweckt. Eine Welle an gefälschten Deepfake-Pornos überschwemmte das Internet. Vor allem das Konterfei der Schauspielerin Scarlett Johannson hat es den Fälschern angetan.
Der Anfang der Deepfakes war also getan und mit immer weiter verbesserter Technik und Knowhow wurden die Fakes immer realistischer. Tausende kleinere Clips mit ausgetauschten Gesichtern tauchten nach und nach im Internet auf.
Wie einfach ist es, ein Deepfake zu erstellen?
In den Appstores gibt es mittlerweile viele kleine Apps, mit denen einfach und schnell kurze Clips mit Deepfake erstellt werden können. Wir stellen Ihnen hier eine der bekanntesten Apps vor. Neben diesen gibt es jedoch professionelle Programme für den PC, mit denen man mittlerweile selbst qualitativ hochwertige Deepfakes erstellen kann. Diese benötigen jedoch einiges an Vorkenntnissen, weshalb wir hier nicht konkret auf den Ablauf eingehen.
Reface-App (sehr einfach)
Mit der Reface App kann man schnell und einfach kleine Clips im Video oder GIF Format erstellen. Die App kostet pro Woche 3,99 und pro Jahr 34,99. Die Handhabung ist kinderleicht. Einfach ein Selfie aufnehmen oder ein Bild aus der Galerie auswählen und schon kann das eigene Konterfei in Clips aus Hollywoodfilmen, oder Serien bewundert werden. Die Galerie-Funktion erlaubt es also auch, Bilder anderer Personen zum Beispiel aus dem Internet herunter zu laden und hier einzusetzen. Die Qualität ist jedoch so niedrig, dass der Deepfake eindeutig zu erkennen ist.
So konnte ich mir meinen heimlichen Traum erfüllen und mit Leo auf der Titanic schippern:
DeepFaceLab 2.0 (schwer)
Der größte Unterschied: Während Reface für jeden Gesichtstausch das gleiche KI-Modell nutzt, kann man mit DeepFaceLab einen eigenen Algorithmus für jedes Gesicht trainieren.
Hier können bereits recht hochwertigere Deepfakes erstellt werden, die fast täuschend echt aussehen. Hierzu muss das Programm trainiert werden und unterschiedliche Posen und Gesichtsausdrücke abgespeichert werden. Die Handhabung setzt schon einiges an Geschickt, Wissen, Geduld und vor allem Zeit voraus.
Man benötigt generell eine Quelldatei, auf der das gefakte Gesicht gesetzt werden soll und eine Referenzdatei mit dem Gesicht. Nachdem die Szenen bzw. Gesichtsausdrücke beider QuellVideos überprüft wurden, arbeitet die KI. Das kann bis zu 17 Stunden dauern. Nach weiteren Trainingsrunden werden die Gesichter dann übereinandergelegt und neu berechnet. Der ganze Vorgang kann mehrere Tage dauern.
Wer sich damit genauer auseinandersetzen möchte, findet hier ein gutes Tutorial:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Die Auswirkungen von Deepfakes
Wenn man sich einige dieser Videos im Netz ansieht, bekommt man langsam aber sicher etwas Angst. Kann man seinen eigenen Augen noch trauen?
Augen auf! – Kopf an!
Wenn der amerikanische Präsident erzählt, wie lecker Kirschkuchen ist, ist das noch lustig, aber man stelle sich vor, er ruft den dritten Weltkrieg aus? So apokalyptisch wollen wir jetzt erst einmal nicht denken, aber man muss auf jeden Fall nicht nur die Augen, sondern auch den Verstand weit offen halten. Genauso wie Fake-News sollte man auch Statements von Politikern, die nicht offiziell freigegeben wurden oder von seriösen Nachrichtenseiten stammen, behandeln.
- Wie realistisch ist es, dass dieser Politiker, Promi oder Schauspieler das gerade von sich gibt?
- Ist die Aussage irgendwo bestätigt worden?
- Auf was für einer Internetseite bin ich gerade?/Woher stammt die Information?
Die Sozialen Netzwerke wie YouTube, TikTok Facebook oder Twitter haben bereits vor 2020 die Reißleine gezogen und zum einen Deepfakes verboten, zum anderen Programme eingesetzt, die diese erkennen und löschen. Sicher war hier der US-Wahlkampf ein ausschlaggebendes Ereignis. Die befürchtete Deepfake-Schwemme blieb hierzu jedoch aus. Entweder wegen dieser Maßnahmen oder weil die Technik noch nicht ausgereift genug war.
Doch auch hier hinkt die Erkennungssoftware-Entwicklung hinterher. Experten sind sich einig, dass in nicht allzu ferner Zukunft Deepfakes entwickelt werden können, die auch von den Sicherheitsprogrammen nicht mehr als solche zu erkennen sind.
Chance für die Filmindustrie
Auch die Filmindustrie hat das Potential der Gesichterfälschung für sich entdeckt. Disney forscht aktuell an dem sogenannten Megapixel-Deepfake, mit dem eine Täuschung in noch nie vorhandener Bildqualität möglich sein soll.
Verstorbene Filmstars könnten erneut die Kinosäle füllen, Schauspieler müssten nur noch 1 bis 2 Tage ihr Gesicht in die Kamera halten, um einen kompletten Film zu bestücken. Man sollte also in Zukunft ganz genau hinsehen, ob da ein wirklicher Mensch über die Leinwand flackert, oder ein computergeneriertes Programm. Neben den Gesichtern kann man mittlerweile auch die Körperhaltung und die Stimme jeweils anpassen und neu erstellen. Dem Potential sind also keine Grenzen gesetzt. Aber will man das? Werden zukünftig Filmikonen niemals altern oder sogar wieder auferstehen?
Deepfake erkennen
Obwohl die Technik in Siebenmeilenstiefeln voranschreitet und die Qualität immer höher wird, sind Deepfakes immer noch recht gut zu erkennen.
Auf folgende Punkte sollte man achten:
- Gesichtskonturen unscharf
- Gesicht verschwimmt teilweise vor allem bei schnellen Bewegungen
- Die Lippenbewegungen sind nicht synchron
- Der Gesichtsausdruck wirkt starr
- Falsche Perfektion – Das Gesicht ist zu glatt und wirkt unnatürlich
- Zusammenhang prüfen!
Im Artikel verwendete Quellen:
- https://de.wikipedia.org/wiki/Deepfake
- https://mixed.de/geschichte-der-deepfakes-so-rasant-geht-es-mit-ki-fakes-voran/
- https://www.youtube.com/watch?v=gfajGnx17XE
Vernetzten Sie sich mit Medienkompass auf Social Media:
Facebook Gruppe
Auch beim Einkaufen im Internet gibt es Betrüger:
Keine Tipps mehr verpassen und bequem per E-Mail zugeschickt bekommen:
⊗ 1 x pro Monat ⊗ jederzeit kündbar ⊗ Keine Datenweitergabe an Dritte
Newsletter-Anmeldung
„*“ zeigt erforderliche Felder an
Der Newsletter wird über den Versanddienstleister CleverReach versendet, bei dem Ihre Daten nach Ihrer bestätigten Anmeldung gespeichert werden. Hinweise zum Anmeldeverfahren, Versanddienstleister, zur statistischen Auswertung und zum Widerruf finden Sie in unserer Datenschutzerklärung.
Auf die eine Art verschmieren Videocodecs das fehlerhafte Rendering. Auf die andere Art funktionieren sie in Echtzeit nur in einer minderen Qualität und die hängt ab von der eingesetzten Rechenleistung. Es passiert wohl schnell mal, daß man vergißt, für die Fälschungen exakt dieselben Settings zu verwenden.
Sagen wir mal, ein totalitäres Regime fälscht Nachrichtenmeldungen. Jetzt haben sie aber einige Sequenzen schon vorproduziert und sie waren so blöd, nicht jedesmal die gleichen Video-Encoder-Einstellungen zu verwenden. Gibt es jetzt ein Tool, mit dem man die Encoder und dessen Einstellungen wie eine Art Wasserzeichen aus den Artefakten der Bilder identifizieren kann, damit man erkennen kann, daß der chronologische Ablauf der Ereignisse damit nicht zusammenpaßt (z.B. eine inszenierte, vorproduzierte Sequenz inmitten eines Livestreams)?
(vom möglichen Entlarven von verkehrten Alibis von psychisch abnormalen Hobbyregisseuren jetzt mal abgesehen)
Da sieh, dieses „free my satellite, give me hue“ oder „Sunny Side Up“-„ab jetzt in Farbe aus der Klapse“-Thema gibt einiges her.
Es wird meines Wissens nach an solchen „Aufdecker-Softwares“ unter Hochdruck gearbeitet. Da die „Fälscher-Softwares“ jedoch natürlich auch immer besser werden ist es eine Art Wettlauf, wie bei Computerviren und Firewalls. Der Ansatz mit dem Ancoding ist sicher eine gute Idee einen Fake zu entlarven.