Deepfake-App aus China zeigt, wie einfach sich Videos manipulieren lassen
Die iPhone-App ZAO ermöglicht mit wenigen Klicks sogenanntes Face-Swapping: In ausgewählten Video-Chlips, zum Teil aus bekannten Hollywoodfilmen, wird das Gesicht eines Schauspielers durch das Gesicht des iPhone-Users ersetzt. Das geschieht innert Sekunden mit schlauen Algorithmen, die die Bewegtbilder realitätsnah manipulieren.
Krasse User-Videos lassen Nachfrage explodieren
Nachdem sich in China am Wochenende ZAO-Videos viral verbreiteten, explodierte die Nachfrage nach der App und sie kletterte in Apples App Store an die Spitze.
Hier ein Beispiel:
Here’s for Asian representation in Hollywood 😂 #ZAO #AI #Deepfake pic.twitter.com/qrSs3VajfL
— Allan Xia (@AllanXia) September 1, 2019
Und noch eins:
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
— Allan Xia (@AllanXia) September 1, 2019
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT
Aus «Léon – der Profi»:
According to #Zao devs, the app burnt through 1/3 of the bandwidth of their 7 Million RMB/m (4.4m USD/month) server on the first evening. There's currently a long waiting queue for account registrations. #AI #Deepfake pic.twitter.com/YtEWCUiuNm
— Allan Xia (@AllanXia) September 2, 2019
Wo ist das Problem?
Die in China zentrale Online-Plattform WeChat hat den Zugang zur ZAO-App inzwischen «wegen Sicherheitsrisiken» eingeschränkt, wie Tech Crunch letzte Nacht berichtete.
Internet-User können weiterhin mit ZAO erstellte Videos zu WeChat hochladen, aber wenn sie versuchen, die App herunterzuladen oder einen Einladungslink an einen anderen WeChat-Benutzer zu senden, wird eine Warnmeldung angezeigt, dass die Webseite gesperrt worden sei.
Nach der Veröffentlichung der ZAO-App am vergangenen Freitag wurden Bedenken laut über den möglichen Missbrauch der Deepfake-Technologie. In den Nutzungsbedingungen zur App stand laut Tech-Crunch-Bericht eine fragwürdige Klausel, die mittlerweile aber gelöscht worden sei. Demnach gab es Datenschutz-Bedenken und was mit den von Usern hochgeladenen Selfies alles gemacht werden könnte.
Laut der Klausel wurde der Entwicklerfirma das volle Eigentum und Urheberrecht an hochgeladenen und erstellten Inhalten verliehen, sowie «völlig freie, unwiderrufliche, unbefristete, übertragbare und wiederlizenzierbare Rechte».
Die chinesische Entwicklerfirma hat laut Schilderungen bei Twitter bereits reagiert und die umstrittenen Nutzungsbedingungen angepasst und mit einem Hinweis ergänzt.
A new special notice in the updated terms states #Zao will only use uploaded facial data for partial image replacement, data will be stored on servers according to relevant copyright laws. No further usage/ changes to app function unless with user's renewed permission.
— Allan Xia (@AllanXia) September 2, 2019
Wie kann ich ZAO selber ausprobieren?
Das ist schwierig, bzw. praktisch unmöglich.
Die App ist nur in China verfügbar. Man bräuchte also eine chinesische Apple-ID, um sich im App Store anzumelden und die ZAO-App herunterzuladen und zu installieren.
It’s time for a thread about #ZAO, the new Chinese app which blew up since Friday. The app is accessible only to Chinese people for the moment but I managed to get an account ;)
— Elliot Alderson (@fs0c131y) September 2, 2019
This "AI facial" app allows you to add your face on predefined clip.
1/n pic.twitter.com/XPuEtfxrUg
Wie funktioniert die App?
Es sei keine Hexerei, hält ein Kenner der ZAO-App fest. Allan Xia ist ein in Neuseeland lebender Digital-Künstler und Game-Entwickler, der in diesem Twitter-Thread auf die technischen Details eingeht. Die App generiere Videos (und GIFs) aus einer von der Entwicklerfirma getroffenen kleinen Auswahl von Video-Clips. Das Erstellen von User-Videos funktioniere so gut, weil die Künstliche Intelligenz hinter der Anwendung auf genau diese (wenigen) Bewegtbilder trainiert wurde.
Before this gets too sensational - just to clarify: #ZAO app generates these vids from a preselected cherry-picked clips. I'm assuming they've trained an A.I. on SAID clips for generic targeting of facial features and quickly retargeting your facial features from a single photo.
— Allan Xia (@AllanXia) September 1, 2019
(dsc, via Tech Crunch)
