Hadmut Danisch

Ansichten eines Informatikers

Deep Fake Fakes

Hadmut
17.2.2018 12:01

Zum aktuellen Stand der Glaubwürdigkeit.

Neulich ging das schon durch die Presse: Der neueste Trend in der Pornographie (seltsam, dass ausgerechnet die von „Trends” sprechen, denn da läuft doch immer dasselbe Programm – man hat den Eindruck, es gibt nur drei Drehbücher, die aber stündlich neu verfilmt werden) seien „Deep Fake Pornos”.

Das seien Machwerke, in denen man mittels moderner Computer-Methoden (Morphing, KI, was man halt auch in Hollywood inzwischen so einsetzt) bei einem gewöhnlichen Porno den Kopf eines Darstellers (eigentlich ist immer nur von Frauen die Rede, Männer sind in Pornos ziemlich uninteressant und auf deren Kopf achtet schon gleich gar niemand) durch den Kopf einer Prominenten ersetzt um „Porno mit X” in Umlauf zu setzen.

Da ich ja nun schon das ein oder andere Mal über Videofälschungen und das Ende der Glaubwürdigkeit mittelbarer Beweise geschrieben habe, wurde die Frage nach einer Einschätzung an mich herangetragen. Ich fühle mich ja immer sehr geehrt und staune, was die Leute alles zur Beurteilung an mich herantragen und mich nun auch als kompetent in der Beurteilung von Pornos ansehen. Nun, als Blogger muss man da durch.

Ich habe nunmehr vier solcher Werke einer eingehenden, rein wissenschaftlich orientierten Begutachtung unterzogen.

Also mal abgesehen davon, dass das zugrundegelegte Pornomaterial einfach lausig war, was aber vermutlich daran lag, dass man es erstens auf szenische Eignung ausgewählt und ganz bewusst miserable Bildqualität gewählt hat, um Bildfehler besser verbergen zu können:

Man sieht kuriose Bildfehler, aber meist nur, wenn man sehr genau hinschaut. Und wenn man untypisch auf den Kopf achtet. Und dabei ist ausgerechnet die – wie soll ich das jetzt ausdrücken – die dem Filmgenre innewohnende charakteristische Szenendynamik der Schlüssel zur Erkennung, denn ausgerechnet bei dem üblichen Gewackel scheinen die noch große Probleme zu haben. Mal stimmt die Kopfgröße nicht, hat die abgebildete Dame (oder Chimäre aus zweien) einen viel zu großen Kopf, der mitunter auch einfach an der falschen Stelle ist, und in einer Weise wackelt, wie echte Köpfe einfach nicht wackeln können, weil der Aufbau der Nackenwirbel dem einfach Grenzen setzt. Zwar machen Frauen bei heftigem Treiben die seltsamsten Dinge, aber mit der Kopfgröße zu pumpen ist – auch wenn es hier nur bei sehr genauem Hinsehen zu entdecken ist – bisher nur wenigen gelungen. Und dass bei Frauen im Eifer der Dynamik manche Körperteile in erstaunliche Eigenschwingungen geraten, ist auch keine neue Erkenntnis, aber bislang bezieht sich das eher auf die weicheren Körperpartien, der Schädelknochen ist da eher die Ausnahme.

Kurios und in der Praxis selbst in Ekstase kaum hinzukriegen ist auch, die Augen auseinander und zusammenschwingen zu lassen. Ich halte die Übung auch nicht für erstrebenswert, weil nicht anregend. Auch dann, wenn es eine der wenigen wirklichen Neuerungen in der Pornographie darstellt. Und im Einzelbildmodus sieht man dann doch auch mal ein Gesicht verrutschen. Und in der Gesichtspflege sind die Damen und nicht immer so zuverlässig, manche weist dann in Einzelbildern einfach vier Augenbrauen auf.

Auch wenn ich es jetzt etwas überspitzt dargestellt habe: Mir ist das hauptsächlich aufgefallen, weil ich darauf geachtet, danach gesucht habe, und weil es schlicht dran stand, dass es Fakes sind (derzeit anscheinend beliebter als wenn es nicht dran steht). Schon jetzt wäre das vielen Leuten nicht mehr so direkt aufgefallen oder sie hätten es für eine gewöhnliche Bildstörung gehalten.

In einem Fall bin ich sogar – obwohl das Ding als Fake bezeichnet wurde – sogar darauf hereingefallen. Oder gerade nicht. Ich dachte nämlich für einige Zeit, das sei kein Fake, die Abgebildete sehe der Prominenten einfach nur ziemlich ähnlich, das aber nicht mal so, dass ich sie für diesselbe gehalten hätte. Da hätte ich von vornherein nur gedacht „die sieht fast aus wie die…”. Erst bei genauerer Betrachtung habe ich auch bei der Damen entdeckt, dass ihr gelegentlich in der Dramatik der Handlung das Gesicht verrutscht und sie Einzelbildweise zuviele Augenbrauen hat. Nur: Ich bin mir nicht mal sicher, ob das überhaupt ein Deep Fake ist, oder ob nicht jemand ein Filmchen einer Darstellerin genommen hat, die der Prominenten tatsächlich sehr ähnlich sieht, und dann einfach ein paar billige Bildstörungen eingebaut hat, damit man überzeugt ist, dass es ein Fake und der Kopf reinmontiert sei, weil man ja immer gerne das sieht, was man sehen will. Und der Gedanke kam mir dann auch bei anderen.

Kurzum: Ich bin mir im Ergebnis nicht sicher, ob es wirklich Fakes oder nur gefakte Fakes sind, ob man sich also aus der unendlichen Schar williger Darstellerinnen nicht einfach die Lookalikes herausgesucht hat, ein paar absichtliche Fehler eingebaut hat (die ja nun wirklich jeder Amateur mit ein paar Mausklicks hinkriegen kann) und einfach behauptet, das seien jetzt Deepfakes mit Promis, um überhaupt mal eine Neuerung hinzukriegen. Denn es gibt auch relativ lange Szene ohne erkennbaren Fehler, die ich aus dem Kontext genommen für völlig echt halten würde. Warum aber sollte es solche Qualitätsschwankungen geben? Warum sollte jemand, der dazu in der Lage ist, Bilder fehlerfrei zu fälschen im selben Film in Kauf nehmen, dass die Augen verrutschen?

Und warum eigentlich sollte jemand einen Film so faken, dass er über weite Strecken nicht als Fake erkennbar ist, und dann plötzlich gegen Filmende so ein paar ganz kurze, derbe Bildstörungen drinlassen, die so auffällig sind, wie in all den Krimis, in denen ein Bluff so schiefgehen soll, oder der Held holographisch transformiert wird, dass es der dümmste Zuschauer merkt?

Schaut man sich das nochmal genauer an, dann sind in den Einzelbildern mit vier Augenbrauen nicht etwa, wie man erwarten würde, die der Prominenten und die der Pornodarstellerin zu sehen, sondern zweimal übereinander dieselben. Woher würde eine solche Bildstörung kommen? Spricht das nicht dafür, dass der Film künstlich verfehlert wurde und das gar kein Fake war, sondern die Darstellerinnen den Promis einfach sehr ähnlich sahen?

Sind die Deep Fake Spotter da auf Fake Fakes reingefallen?

Und ein Hauptproblem: Die Filme sind alle enorm stark komprimiert. Vielleicht sind verrutschende Gesichter, pumpende Köpfe, doppelte Augenbrauen schlicht Kompressionsartefakte, die dann von anderen für Fakeanomalien gehalten wurden. Man kann es nach so starken Kompressionen schlicht nicht beurteilen.

Tatsache ist, dass man solche Deepfakes heute bauen kann. Die Frage ist, ob das auch in der Amateurszene angekommen ist.

Was es aber auch zeigt: Bei Pornos scheint es wegen der Eigentümlichkeit der Bewegung eher schwer (dafür hat man die Erleichterung, dass da sowieso keiner so genau auf das Gesicht guckt). Und es wird noch etwas dauern, bis man Fehler auch mit Sorgfalt nicht mehr sieht.

Wir sind aber nun definitiv in dem Zeitalter angekommen, im dem man Filmaufnahmen nicht mehr glauben kann. Und das ist übel, denn statt einen gewöhnlichen Porno könnte es ja auch eine Vergewaltigungsszene sein, die von einer Überwachungskamera aufgenommen wurde. Oder jede andere Straftat. Überfall auf Juwelier, Drogenhandel, Mord, was auch immer. Und da wir ja in einem Zeitalter leben, in dem der Rufmord zum Standardrepertoire gehört und die Öffentlichkeit darauf trainiert wird und ist, jemanden schon durch Beschuldigung für schuldig zu halten und Videos, die grassieren, alles zu glauben…

Insbesondere sollte man aber auch nicht jedem Möchte-gern-Fake glauben, dass er ein Fake ist. Wir sind an dem Punkt, an dem manche vortäuschen, ein Fake zu sein.

Heute kann es schon ein Fake sein, sich als Fake auszugeben, um Publikum anzuziehen.

Oder: Nicht jeder, der vorgibt, ein Fake zu sein, ist auch einer.