Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Bei diesem Deepfake-Video wurde Melania Trumps Gesicht durch Putin ersetzt. Solche Satire-Beiträge will Facebook weiterhin zulassen. screenshot: youtube

Facebook verbietet Deepfake-Videos – das musst du wissen



Facebook verbietet vor den US-Wahlen sogenannte Deepfake-Videos. Entsprechende Filme, die von Usern hochgeladen werden und eine falsche Authentizität vortäuschen, würden künftig von der Plattform gelöscht, teilte Facebook am Montag über seinen Newsroom mit.

Gibts Ausnahmen?

Ja. Ausgenommen vom Deepfake-Verbot seien Parodien oder Satire. Wobei ein solcher Ermessensspielraum erwartungsgemäss zu grossen Diskussionen führen dürfte.

In die Kategorie Satire etwa könnte laut Spiegel-Bericht – je nach Definition –, der Deepfake-Clip fallen, in dem sich Mark Zuckerberg vermeintlich zum Weltherrscher erklärte. Das Video war im Sommer 2019 von den Künstlern Bill Posters und Daniel Howe auf Instagram hochgeladen worden.

Bei Deepfake-Videos werden beispielsweise über künstliche Intelligenz, bzw. Bildbearbeitungs-Algorithmen, authentisch wirkende Sequenzen geschaffen. So können Politikern Worte in den Mund gelegt werden, die sie nie gesagt haben.

Wie genau Facebook Deepfakes als solche identifizieren will, wird in dem Blogeintrag nicht im Detail erklärt. Der US-Konzern verweist lediglich auf eine Brancheninitiative namens Deepfake Detection Challenge und eine Zusammenarbeit Facebooks mit der Nachrichtenagentur Reuters.

Welche Videos sind problematisch?

Prominentes Opfer einer Video-Manipulation war im vergangenen Jahr die US-Politikerin Nancy Pelosi und demokratische Gegenspielerin von Präsident Donald Trump.

Bei dem Clip wurde aber nur die Abspielgeschwindigkeit der Aufnahme reduziert und im Anschluss die Tonhöhe angepasst – dadurch wirkte die 79-jährige Politikerin wie betrunken.

Original und geschickte Manipulation:

abspielen

Video: YouTube/Washington Post

Facebook weigerte sich, das entsprechende Video trotz User-Rückmeldungen zu löschen. Spiegel Online hält fest, dass im Fall Pelosi zwar Video-Material technisch manipuliert worden sei, der Politikerin seien aber keine anderen Worte in den Mund gelegt worden. Und auch maschinelles Lernen habe bei der Manipulation keine Rolle gespielt.

Doch nach den neuen Regeln müsste Facebook solche Video-Manipulationen nach Reklamationen umgehend löschen, oder?

Zwar sei es grundsätzlich zulässig, Videos zu bearbeiten, etwa, um Bild und Ton zu verbessern oder gewisse Abschnitte herauszuschneiden, erklärte Facebook-Managerin Monika Bickert. Anders sei dies bei «in die Irre führenden, manipulierten Videos».

Gilt dies auch für Facebook-Werbung?

Ja.

Insbesondere – und im Gegensatz zu dem, was Facebook anfangs sagte – gelte die neue Richtlinie sowohl für Werbung als auch für herkömmliche User-Posting, schreibt The Intercept.

Das unabhängige Investigativ-Magazin zitiert Nina Jankowicz, eine US-amerikanische Expertin für russische Desinformations-Kampagnen. Sie twitterte, sie sei «immer noch mehr besorgt über billige Fälschungen als über Deepfakes».

Reicht das?

Nein, findet Nina Jankowicz.

Grob bearbeitete, absichtlich irreführende Videos und Bilder – sogenannte Cheap Fakes – seien weiterhin effektiver, und sie seien immer noch auf den meisten Plattformen erlaubt.

Es gebe alle möglichen Wege, die Leute zu täuschen. Man könne auch ein altes Video nehmen und ein neues Datum darauf setzen oder es einfach erneut veröffentlichen und so tun, als wäre es brandneu, um jemandem zu schaden.

The Intercept hatte in einem früheren Beitrag geschrieben, Deepfake-Videos seien nicht das Hauptprobem, wenn es um Wahlmanipulation durch Fake News gehe:

«Das Hochladen eines algorithmisch manipulierten Videos wird wahrscheinlich die Aufmerksamkeit von automatischen Filtern erregen, während konventioneller Filmschnitt und offensichtliche Lügen nicht auffallen werden.»

Was tut Facebook gegen Fake-Videos?

Bleibt die Frage, wie Facebook Deepfake-Videos und andere Fälschungen möglichst schnell erkennen will? Dies gilt natürlich auch für die Facebook-Tochter Instagram.

Mark Zuckerbergs Konzern verweist im aktuellen Blogbeitrag nur auf das eigene «Fact Checking»-System, über das verschiedene externe Partner Fotos und Videos als «fake» oder «teilweise falsch» einstufen könnten. Diese Beiträge würden dann deutlich weniger prominent angezeigt im Newsfeed. Und wer markierte Fälschungen teilen wolle, bekomme einen Hinweis, dass es sich um problematische Inhalte handle.

Vor der US-Präsidentschaftswahl im November wächst die Sorge vor Falschinformationen im Netz, die Wähler manipulieren könnten. Der Druck auf amerikanische Social-Media-Plattformen wie Facebook und Twitter ist gross, gegen die Verbreitung von Fake News und Propaganda vorzugehen.

Facebook-Managerin Monika Bickert erklärte, Deepfake-Videos seien im Internet zwar noch selten. «Weil ihre Nutzung zunimmt, stellen sie aber eine bedeutende Herausforderung für unsere Branche und Gesellschaft dar.»

Was ist Deepfake?

Als DeepFake werden täuschend echt wirkende Videos bezeichnet, bei denen das Gesicht einer Person durch das einer anderen Person ersetzt wird («Face Swap»). Die technische Vorgehensweise ist die gleiche. Das heisst, es wird künstliche Intelligenz missbräuchlich verwendet, um Fake-Videos ohne Einwilligung der Betroffenen zu erstellen.

(dsc/sda/afp)

«Hate Speech» bei Facebook – was toleriert wird, und was nicht

Diese Deepfakes musst du gesehen haben

Play Icon

Mehr zu Deepfakes

Deepfake gerät ausser Kontrolle – wie dieser falsche Tom Cruise zeigt 😱

Link zum Artikel

Die DeepNude-App zieht Frauen aus – ohne Einwilligung der Betroffenen

Link zum Artikel

Stell dir vor, dein Sexvideo taucht im Internet auf – dabei hast du gar nie eines gedreht

Link zum Artikel

Dreht Obama durch? Dieses Video zeigt eine der grössten Gefahren für Demokratien

Link zum Artikel

«Absolut krass und krank»: Schweizer Internet-User werden mit Kinderpornos erpresst

Link zum Artikel

«Fake News? Vielleicht brauchen wir einfach bessere Leser»

Link zum Artikel

Diese Deepfakes musst du gesehen haben 😂

Link zum Artikel
Alle Artikel anzeigen

Mehr zu Deepfakes

Deepfake gerät ausser Kontrolle – wie dieser falsche Tom Cruise zeigt 😱

36
Link zum Artikel

Die DeepNude-App zieht Frauen aus – ohne Einwilligung der Betroffenen

114
Link zum Artikel

Stell dir vor, dein Sexvideo taucht im Internet auf – dabei hast du gar nie eines gedreht

28
Link zum Artikel

Dreht Obama durch? Dieses Video zeigt eine der grössten Gefahren für Demokratien

20
Link zum Artikel

«Absolut krass und krank»: Schweizer Internet-User werden mit Kinderpornos erpresst

21
Link zum Artikel

«Fake News? Vielleicht brauchen wir einfach bessere Leser»

8
Link zum Artikel

Diese Deepfakes musst du gesehen haben 😂

4
Link zum Artikel

Mehr zu Deepfakes

Deepfake gerät ausser Kontrolle – wie dieser falsche Tom Cruise zeigt 😱

36
Link zum Artikel

Die DeepNude-App zieht Frauen aus – ohne Einwilligung der Betroffenen

114
Link zum Artikel

Stell dir vor, dein Sexvideo taucht im Internet auf – dabei hast du gar nie eines gedreht

28
Link zum Artikel

Dreht Obama durch? Dieses Video zeigt eine der grössten Gefahren für Demokratien

20
Link zum Artikel

«Absolut krass und krank»: Schweizer Internet-User werden mit Kinderpornos erpresst

21
Link zum Artikel

«Fake News? Vielleicht brauchen wir einfach bessere Leser»

8
Link zum Artikel

Diese Deepfakes musst du gesehen haben 😂

4
Link zum Artikel

Abonniere unseren Newsletter

2
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
2Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Gipfeligeist 08.01.2020 11:08
    Highlight Highlight Deepfakes zu verbieten ist, als würde man McDonalds verbieten ihre Burger-Werbung mit Photoshop zu bearbeiten.

    Der Sinn ist ja, dass es nicht erkennbar ist. Und das schafft die Technologie - entweder heute oder in 5 Jahren
    • stimpy13 08.01.2020 13:36
      Highlight Highlight Was McDonalds macht ist Bild-Optimierung. Hat zwar auch nicht mehr viel mit der Realität zu tun, stellt aber immer noch einen Burger dar.

Australien verbrennt, das RTL-Dschungelcamp findet statt: Wie pervers ist das?

Ab dem 10. Januar gibt es wieder «Stars» unter Extrembedingungen im Fernsehen. Und dies in einem katastrophengebeutelten Land. Zeit, die Sinnfrage zu stellen.

Wenn der Wind nicht gedreht hat, dürfte Dr. Bobs Haus jetzt in Flammen aufgegangen sein. Am Sonntag war das Feuer noch 27 Kilometer von seinem Haus entfernt, am Montagmorgen nur noch 5, seine Frau und er hatten das Anwesen 200 Kilometer südlich von Sydney schon vor Tagen verlassen. Die Stadt, in der sie lebten, ist eine Geisterstadt.

Nach seinem Einsatz im Dschungelcamp will er erst einmal in einem Wohnwagen auf der Asche seines alten Hauses campieren, danach schaut er weiter. Dr. Bob bleibt dem …

Artikel lesen
Link zum Artikel