Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Aus Leonardo DiCaprio wird im Handumdrehen User XY. bild: watson.

Deepfake-App aus China zeigt, wie einfach sich Videos manipulieren lassen

Die chinesische iPhone-App «ZAO» begeistert die User mit Face-Swapping – und weckte Datenschutz-Bedenken.



Die iPhone-App ZAO ermöglicht mit wenigen Klicks sogenanntes Face-Swapping: In ausgewählten Video-Chlips, zum Teil aus bekannten Hollywoodfilmen, wird das Gesicht eines Schauspielers durch das Gesicht des iPhone-Users ersetzt. Das geschieht innert Sekunden mit schlauen Algorithmen, die die Bewegtbilder realitätsnah manipulieren.

Krasse User-Videos lassen Nachfrage explodieren

Nachdem sich in China am Wochenende ZAO-Videos viral verbreiteten, explodierte die Nachfrage nach der App und sie kletterte in Apples App Store an die Spitze.

Hier ein Beispiel:

Und noch eins:

Aus «Léon – der Profi»:

Wo ist das Problem?

Die in China zentrale Online-Plattform WeChat hat den Zugang zur ZAO-App inzwischen «wegen Sicherheitsrisiken» eingeschränkt, wie Tech Crunch letzte Nacht berichtete.

Bild

screenshot: apps.apple.com

Internet-User können weiterhin mit ZAO erstellte Videos zu WeChat hochladen, aber wenn sie versuchen, die App herunterzuladen oder einen Einladungslink an einen anderen WeChat-Benutzer zu senden, wird eine Warnmeldung angezeigt, dass die Webseite gesperrt worden sei.

Nach der Veröffentlichung der ZAO-App am vergangenen Freitag wurden Bedenken laut über den möglichen Missbrauch der Deepfake-Technologie. In den Nutzungsbedingungen zur App stand laut Tech-Crunch-Bericht eine fragwürdige Klausel, die mittlerweile aber gelöscht worden sei. Demnach gab es Datenschutz-Bedenken und was mit den von Usern hochgeladenen Selfies alles gemacht werden könnte.

Laut der Klausel wurde der Entwicklerfirma das volle Eigentum und Urheberrecht an hochgeladenen und erstellten Inhalten verliehen, sowie «völlig freie, unwiderrufliche, unbefristete, übertragbare und wiederlizenzierbare Rechte».

Die chinesische Entwicklerfirma hat laut Schilderungen bei Twitter bereits reagiert und die umstrittenen Nutzungsbedingungen angepasst und mit einem Hinweis ergänzt.

Wie kann ich ZAO selber ausprobieren?

Das ist schwierig, bzw. praktisch unmöglich.

Die App ist nur in China verfügbar. Man bräuchte also eine chinesische Apple-ID, um sich im App Store anzumelden und die ZAO-App herunterzuladen und zu installieren.

Wie funktioniert die App?

Es sei keine Hexerei, hält ein Kenner der ZAO-App fest. Allan Xia ist ein in Neuseeland lebender Digital-Künstler und Game-Entwickler, der in diesem Twitter-Thread auf die technischen Details eingeht. Die App generiere Videos (und GIFs) aus einer von der Entwicklerfirma getroffenen kleinen Auswahl von Video-Clips. Das Erstellen von User-Videos funktioniere so gut, weil die Künstliche Intelligenz hinter der Anwendung auf genau diese (wenigen) Bewegtbilder trainiert wurde.

(dsc, via Tech Crunch)

China baut Riffs zu Stützpunkten aus

Diese Deepfakes musst du gesehen haben

Play Icon

Mehr zu Deepfakes

Deepfake gerät ausser Kontrolle – wie dieser falsche Tom Cruise zeigt 😱

Link zum Artikel

Die DeepNude-App zieht Frauen aus – ohne Einwilligung der Betroffenen

Link zum Artikel

Stell dir vor, dein Sexvideo taucht im Internet auf – dabei hast du gar nie eines gedreht

Link zum Artikel

Dreht Obama durch? Dieses Video zeigt eine der grössten Gefahren für Demokratien

Link zum Artikel

«Absolut krass und krank»: Schweizer Internet-User werden mit Kinderpornos erpresst

Link zum Artikel

«Fake News? Vielleicht brauchen wir einfach bessere Leser»

Link zum Artikel

Diese Deepfakes musst du gesehen haben 😂

Link zum Artikel
Alle Artikel anzeigen

Mehr zu Deepfakes

Deepfake gerät ausser Kontrolle – wie dieser falsche Tom Cruise zeigt 😱

36
Link zum Artikel

Die DeepNude-App zieht Frauen aus – ohne Einwilligung der Betroffenen

114
Link zum Artikel

Stell dir vor, dein Sexvideo taucht im Internet auf – dabei hast du gar nie eines gedreht

28
Link zum Artikel

Dreht Obama durch? Dieses Video zeigt eine der grössten Gefahren für Demokratien

31
Link zum Artikel

«Absolut krass und krank»: Schweizer Internet-User werden mit Kinderpornos erpresst

21
Link zum Artikel

«Fake News? Vielleicht brauchen wir einfach bessere Leser»

8
Link zum Artikel

Diese Deepfakes musst du gesehen haben 😂

4
Link zum Artikel

Mehr zu Deepfakes

Deepfake gerät ausser Kontrolle – wie dieser falsche Tom Cruise zeigt 😱

36
Link zum Artikel

Die DeepNude-App zieht Frauen aus – ohne Einwilligung der Betroffenen

114
Link zum Artikel

Stell dir vor, dein Sexvideo taucht im Internet auf – dabei hast du gar nie eines gedreht

28
Link zum Artikel

Dreht Obama durch? Dieses Video zeigt eine der grössten Gefahren für Demokratien

31
Link zum Artikel

«Absolut krass und krank»: Schweizer Internet-User werden mit Kinderpornos erpresst

21
Link zum Artikel

«Fake News? Vielleicht brauchen wir einfach bessere Leser»

8
Link zum Artikel

Diese Deepfakes musst du gesehen haben 😂

4
Link zum Artikel

Abonniere unseren Newsletter

12
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
12Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Typu 03.09.2019 12:06
    Highlight Highlight Vor der wahl von trump. Da gabs immens populäre fake news seiten. Die macher verdienten millionen. Man stelle sich dies mit videos vor. Grauenhaft. Es braucht eine schnelle reaktion der gesetzgeber. Diese technologie kann rasch ausufern. Oder wir werden uns gegenseitig künftig nichts mehr glauben.
  • Salamikönig 03.09.2019 11:25
    Highlight Highlight Wenn das für die Öffentlichkeit zugänglich ist, will ich gar nicht wissen, was der Geheimdienst für Möglichkeiten hat...
  • Salamikönig 03.09.2019 11:24
    Highlight Highlight Sehe jetzt schon, dass das in ein paar Jahren im Wahlkampf benutzt wird um seinem Gegner zu schaden und Fake-News zu verbreiten.
  • Bruno S.1988 03.09.2019 10:40
    Highlight Highlight Die Regierung muss ZWINGEND an DeepFake und Photoshop erkennungstools arbeiten! Hier ist proaktives Handeln aus offizieller Richtung nötig!
    Aber das ist zu viel verlangt wenn die Entscheidungsträger bereits mit Facebook und Twitter überfordert sind...
    • NotWhatYouExpect 03.09.2019 16:31
      Highlight Highlight Sorry Bruno S. aber diesen Kampf kann man nicht gewinnen. Einerseits ist die Bürokratie zu langsam und zweitens wird die Technik so viel besser, dass es da bald nix zu erkennen gibt.

      Wichtig ist, dass die Leute Informiert werden, dass solche Videos einfach zu erstellen sind.
  • Faceoff 03.09.2019 09:36
    Highlight Highlight Die DeepFake-Geschichten werden zu einem neuen Umgang mit Medien und der Wahrheit führen, sowohl in der Gesellschaft als letztlich auch in der Justiz. Überwachungsvideos, Beweisbilder – alles nutzlos.

    Es stehen uns spannende Zeiten bevor.
    • Ueli der Knecht 03.09.2019 14:01
      Highlight Highlight "Überwachungsvideos, Beweisbilder – alles nutzlos."

      Man kann mit der gleichen Technologie auch Bildmanipulationen erkennen oder ausschliessen.

      Die Authentizät der Bilder lässt sich auch mit kryptographischen Methoden beweisen (will heissen, dass beweissichere Kameras jeden Frame signieren, und die Hardware versiegelt ist).
    • Faceoff 03.09.2019 16:31
      Highlight Highlight In Ordnung, danke fürs Aufklären. Zumindest die Justiz dürfte davon Gebrauch machen. Aber die öffentliche Meinung ist doch dann längst schon gemacht, resp. nicht jeder hat Zugang zu solchen Prüfmethoden?
    • Ueli der Knecht 03.09.2019 16:53
      Highlight Highlight Heutzutage sehen die Leute eh nur das, was sie sehen wollen. Viele forensischen Tools zur Erkennung von Bildmanipulationen sind auch online verfügbar und können von allen benutzt werden.

      zB. das hier:
      http://fotoforensics.com/analysis.php?id=6fbe7fbdd48fa8af4f38b7c7c4aaaa32a2f36e10.37854

      Jedes Foto und Video ist eine Lüge, bzw. erzählt die Geschichte, die der Produzent des Fotos/Videos erzählen will.

      Das nachfolgende Foto ist technisch nicht manipuliert, aber der Produzent wählte vom gleichen Bild drei verschiedene Ausschnitte, die drei ganz verschiedene Geschichten erzählen.
      Benutzer Bild
    Weitere Antworten anzeigen
  • Typu 03.09.2019 09:18
    Highlight Highlight Die Technik in 2-3 Jahren. Das wird zu Problemen führen. Auch jetzt schon. Bild nehmen, in Porno laden, an Klasse verteilen. Das neue Mobbing. Krass.
  • maylander 03.09.2019 08:51
    Highlight Highlight Diese App wird eher eine Resteverwertung sein.
    Profis haben da ganz andere Möglichkeiten.

Lauschangriff auf Donald Trumps Handy – ausgerechnet Israel soll ihn bespitzelt haben

Rund ums Weisse Haus in Washington D.C. wurden IMSI-Catcher gefunden ...

Das US-Magazin Politico hat am Donnerstag mit einem Exklusivbericht für Aufregung gesorgt. Die US-Regierung sei zum Schluss gekommen, dass höchstwahrscheinlich Israel hinter einem Lauschangriff auf Donald Trump stecke.

Es seien Mobiltelefon-Überwachungsgeräte gefunden worden, in der Nähe des Weissen Hauses und anderer sensibler Orte um Washington, D.C. Dies hätten drei Quellen, frühere hochrangige US-Beamte mit Insider-Informationen bestätigt. Der Lauschangriff sei in den letzten zwei …

Artikel lesen
Link zum Artikel