Wie erkenne ich Deep Fakes – und wie gefährlich sind sie?

Es ist ein neuer Geist der da gerufen wurde und keiner weiß wie viel Schaden er anrichten wird: “Deep Fakes”. Dass wir Deep Fakes jedoch nie völlig hilflos ausgeliefert sein werden, davon sind wir von wafana überzeugt. Und Sie nach Lektüre dieses Artikels hoffentlich auch. 🙂

Bekannt wurden Deep Fakes dadurch, dass Gesichter prominenter Models und Schauspieler in Pornofilme hinein”retuschiert” wurden. Genannt: faceswapping. Und die Manipulationen vielen Zuschauern gar nicht auffielen.

Schnell war klar: Bei Pornos wird die neue Technik nicht halt machen – und damit steigt die Gefahr vor echten, erheblichen Konsequenzen. Denn wenn perfekt manipulierte Videos von Politikern auftauchen, die vermeintlich eine brisante Botschaft verkünden, könnte es weltpolitisch betrachtet heikel werden.  Ein “gedeepfaktes” Video von Barack Obama, welches die University of Washington hergestellt hat, zeigt wie perfekt die Technik schon heute gereift ist.

Klar: Die Mitarbeiter der Universität hatten technisches Know-How und viel Zeit. Aber wie leicht lässt sich ein Deep Fake-Video zuhause herstellen? Der im Januar 2018 gegründete und hier in Deutschland noch unbekannte DeepFakeClub hat ein Tutorial für Einsteiger auf seiner Webseite. Die benötigte technische Ausstattung: gering. Schritt für Schritt erklären die Clubmitglieder wie faceswapping praktiziert wird und geben sich im Forum Tipps.

Was uns von wafana natürlich vor allem interessiert: Lassen sich Deep Fakes entlarven?

Die Antwort: Ja, oft ist das tatsächlich möglich. Noch. Viele Videos, vor allem jene, die zuhause mit wenig Rechenleistung hergestellt wurden, sind extrem pixelig, unscharf und immer wieder verschwimmen darin zum Beispiel die Gesichter ineinander. Schwieriger wird es bei professionell hergestellten Fakes. Bei einer Frame-to-frame Betrachtung gibt es aber auch hier oft noch groteske Fehler, die ins Auge fallen. Wie zum Beispiel eine innerhalb von zwei Bildern verrutschte Nase. Auch die Umgebung des Videos ist ein wichtiger Indikator.

Als Faustregel ließe sich aktuell ableiten: Je statischer die  Person im Video, desto eher ein Fake. Deshalb sind Politiker gleich doppelt leichte Beute: Es schwirren unzählige Bilder von ihnen im Netz herum, die für die Herstellung von Deep Fakes benötigt werden. Und Politiker stehen in der Tat oft recht regungslos hinter einem Rednerpult. Da muss der Computer insgesamt deutlich weniger Rechenleistung bringen als bei einer Person, die zum Beispiel Sport treibt. Oder eben im Porno “sportlich” zu Gange ist.

Der Informatiker und Blogger Hadmut Danisch hält es für realistisch, dass einige der “Porno Deep Fakes” in Wahrheit echte Videos sind. Gedreht mit Schauspielern, die den Prominenten einfach sehr, sehr ähnlich sehen. Er schreibt:

“Denn es gibt auch relativ lange Szenen ohne erkennbaren Fehler, die ich aus dem Kontext genommen für völlig echt halten würde. Warum aber sollte es solche Qualitätsschwankungen geben? Warum sollte jemand, der dazu in der Lage ist, Bilder fehlerfrei zu fälschen im selben Film in Kauf nehmen, dass die Augen verrutschen?”

Seine These: In einige der Videos seien wohl nachträglich und mit wenigen Klicks bewusst Fehler eingebaut worden, um behaupten zu können, man habe ein Deep Fake gebaut. Denn Deep Fakes sind spannend, neu, aufregend und ziehen deshalb deutlich mehr Aufmerksamkeit auf sich.

Natürlich wird die Technik schnell besser… 

… und in nicht allzu ferner Zukunft wird es mit dem bloßen Auge – selbst bei genauester Betrachtung – nicht mehr möglich sein ein Deep Fake aufzuspüren. Doch auch das bedeutet nicht, dass Deep Fakes generell nicht mehr zu entlarven sind. Denn sie werden mit künstlicher Intelligenz hergestellt – und die kann man genauso dafür einsetzen, Deep Fakes aufzudecken.

Und noch etwas dürfen wir bei der ganzen Diskussion nicht vergessen: manipuliert wurde schon immer! Seitdem es Fotos gibt wurden sie auch manipuliert. Besonders beeindruckende Bildmanipulationen aus der frühesten Zeit hat der Spiegel zusammengetragen.

Was ändert sich durch Deep Fakes für uns Journalisten?

Nüchtern betrachtet: wenig. Es gilt nur umso mehr, was sowieso die journalistische Maxime sein sollte: kritisch sein und hinterfragen. Künftig eben nicht nur Text und Bilder sondern auch Videos.

PS: Der US-YouTuber Cold Fusion gibt eine kurzweilige und sehenswerte Zusammenfassung rund um Deep Fakes.

Leave a Reply

Required fields are marked*