AI-generated Fake Celebrity-Porn

Ihr erinnert Euch an meine Sprüche, dass mit den neuen AI-Tools für Computer Vision demnächt Fake-Videos von allem erzeugt werden könnte und die Fake-News von 2016 nur ein erster Vorgeschmack waren? Nun, wir haben den ersten konkreten Anwendungsfall und es ist natürlich Rule 34: „Someone used an algorithm to paste the face of 'Wonder Woman' star Gal Gadot onto a porn video, and the implications are terrifying“.

Ein Reddit-User namens Deepfakes trainiert Neural Networks auf die Gesichter von Celebrities, die bewegten Gesichts-Animationen fügt er dann per Face-Detection in reale Pornos ein (sofern ich die Videos richtig interpretiere, ich verlinke die hier nicht, findet ihr selber). Das Ergebnis sind authentische Pornos mit your favorite Actress.

Fake-Porn per Photoshop ist zwar ungefähr so alt wie das Internet (und realistisch gesehen wahrscheinlich so alt wie Photoshop selbst), nur wird der Prozess hier automatisiert und funktioniert in Zukunft auf Ansage. Zwar dürften AI-Coder Sicherheitsmechanismen einbauen, die eine AI an „Identitätsklau“ hindern dürften, aber auch dafür wird es dann Hacks und Cracks geben. Das Konzept wird nicht mehr weggehen und es wird wohl auch nicht bei Schauspielerinnen aufhören. Welcome to the Future.

So far, deepfakes has posted hardcore porn videos featuring the faces of Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza, and Gal Gadot on Reddit. I’ve reached out to the management companies and/or publicists who represent each of these actors informing them of the fake videos, and will update if I hear back. […]

According to deepfakes — who declined to give his identity to me to avoid public scrutiny — the software is based on multiple open-source libraries, like Keras with TensorFlow backend. To compile the celebrities’ faces, deepfakes said he used Google image search, stock photos, and YouTube videos. Deep learning consists of networks of interconnected nodes that autonomously run computations on input data. In this case, he trained the algorithm on porn videos and Gal Gadot’s face. After enough of this “training,” the nodes arrange themselves to complete a particular task, like convincingly manipulating video on the fly. Artificial intelligence researcher Alex Champandard told me in an email that a decent, consumer-grade graphics card could process this effect in hours, but a CPU would work just as well, only more slowly, over days. […]

“I just found a clever way to do face-swap,” he said, referring to his algorithm. “With hundreds of face images, I can easily generate millions of distorted images to train the network,” he said. “After that if I feed the network someone else's face, the network will think it's just another distorted image and try to make it look like the training face.”

In a comment thread on Reddit, deepfakes mentioned that he is using an algorithm similar to one developed by Nvidia researchers that uses deep learning to, for example, instantly turn a video of a summer scene into a winter one. The Nvidia researchers who developed the algorithm declined to comment on this possible application.