Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Bei diesem Deepfake-Video wurde Melania Trumps Gesicht durch Putin ersetzt. Solche Satire-Beiträge will Facebook weiterhin zulassen. screenshot: youtube

Facebook verbietet Deepfake-Videos – das musst du wissen



Facebook verbietet vor den US-Wahlen sogenannte Deepfake-Videos. Entsprechende Filme, die von Usern hochgeladen werden und eine falsche Authentizität vortäuschen, würden künftig von der Plattform gelöscht, teilte Facebook am Montag über seinen Newsroom mit.

Gibts Ausnahmen?

Ja. Ausgenommen vom Deepfake-Verbot seien Parodien oder Satire. Wobei ein solcher Ermessensspielraum erwartungsgemäss zu grossen Diskussionen führen dürfte.

In die Kategorie Satire etwa könnte laut Spiegel-Bericht – je nach Definition –, der Deepfake-Clip fallen, in dem sich Mark Zuckerberg vermeintlich zum Weltherrscher erklärte. Das Video war im Sommer 2019 von den Künstlern Bill Posters und Daniel Howe auf Instagram hochgeladen worden.

Bei Deepfake-Videos werden beispielsweise über künstliche Intelligenz, bzw. Bildbearbeitungs-Algorithmen, authentisch wirkende Sequenzen geschaffen. So können Politikern Worte in den Mund gelegt werden, die sie nie gesagt haben.

Wie genau Facebook Deepfakes als solche identifizieren will, wird in dem Blogeintrag nicht im Detail erklärt. Der US-Konzern verweist lediglich auf eine Brancheninitiative namens Deepfake Detection Challenge und eine Zusammenarbeit Facebooks mit der Nachrichtenagentur Reuters.

Welche Videos sind problematisch?

Prominentes Opfer einer Video-Manipulation war im vergangenen Jahr die US-Politikerin Nancy Pelosi und demokratische Gegenspielerin von Präsident Donald Trump.

Bei dem Clip wurde aber nur die Abspielgeschwindigkeit der Aufnahme reduziert und im Anschluss die Tonhöhe angepasst – dadurch wirkte die 79-jährige Politikerin wie betrunken.

Original und geschickte Manipulation:

abspielen

Video: YouTube/Washington Post

Facebook weigerte sich, das entsprechende Video trotz User-Rückmeldungen zu löschen. Spiegel Online hält fest, dass im Fall Pelosi zwar Video-Material technisch manipuliert worden sei, der Politikerin seien aber keine anderen Worte in den Mund gelegt worden. Und auch maschinelles Lernen habe bei der Manipulation keine Rolle gespielt.

Doch nach den neuen Regeln müsste Facebook solche Video-Manipulationen nach Reklamationen umgehend löschen, oder?

Zwar sei es grundsätzlich zulässig, Videos zu bearbeiten, etwa, um Bild und Ton zu verbessern oder gewisse Abschnitte herauszuschneiden, erklärte Facebook-Managerin Monika Bickert. Anders sei dies bei «in die Irre führenden, manipulierten Videos».

Gilt dies auch für Facebook-Werbung?

Ja.

Insbesondere – und im Gegensatz zu dem, was Facebook anfangs sagte – gelte die neue Richtlinie sowohl für Werbung als auch für herkömmliche User-Posting, schreibt The Intercept.

Das unabhängige Investigativ-Magazin zitiert Nina Jankowicz, eine US-amerikanische Expertin für russische Desinformations-Kampagnen. Sie twitterte, sie sei «immer noch mehr besorgt über billige Fälschungen als über Deepfakes».

Reicht das?

Nein, findet Nina Jankowicz.

Grob bearbeitete, absichtlich irreführende Videos und Bilder – sogenannte Cheap Fakes – seien weiterhin effektiver, und sie seien immer noch auf den meisten Plattformen erlaubt.

Es gebe alle möglichen Wege, die Leute zu täuschen. Man könne auch ein altes Video nehmen und ein neues Datum darauf setzen oder es einfach erneut veröffentlichen und so tun, als wäre es brandneu, um jemandem zu schaden.

The Intercept hatte in einem früheren Beitrag geschrieben, Deepfake-Videos seien nicht das Hauptprobem, wenn es um Wahlmanipulation durch Fake News gehe:

«Das Hochladen eines algorithmisch manipulierten Videos wird wahrscheinlich die Aufmerksamkeit von automatischen Filtern erregen, während konventioneller Filmschnitt und offensichtliche Lügen nicht auffallen werden.»

Was tut Facebook gegen Fake-Videos?

Bleibt die Frage, wie Facebook Deepfake-Videos und andere Fälschungen möglichst schnell erkennen will? Dies gilt natürlich auch für die Facebook-Tochter Instagram.

Mark Zuckerbergs Konzern verweist im aktuellen Blogbeitrag nur auf das eigene «Fact Checking»-System, über das verschiedene externe Partner Fotos und Videos als «fake» oder «teilweise falsch» einstufen könnten. Diese Beiträge würden dann deutlich weniger prominent angezeigt im Newsfeed. Und wer markierte Fälschungen teilen wolle, bekomme einen Hinweis, dass es sich um problematische Inhalte handle.

Vor der US-Präsidentschaftswahl im November wächst die Sorge vor Falschinformationen im Netz, die Wähler manipulieren könnten. Der Druck auf amerikanische Social-Media-Plattformen wie Facebook und Twitter ist gross, gegen die Verbreitung von Fake News und Propaganda vorzugehen.

Facebook-Managerin Monika Bickert erklärte, Deepfake-Videos seien im Internet zwar noch selten. «Weil ihre Nutzung zunimmt, stellen sie aber eine bedeutende Herausforderung für unsere Branche und Gesellschaft dar.»

Was ist Deepfake?

Als DeepFake werden täuschend echt wirkende Videos bezeichnet, bei denen das Gesicht einer Person durch das einer anderen Person ersetzt wird («Face Swap»). Die technische Vorgehensweise ist die gleiche. Das heisst, es wird künstliche Intelligenz missbräuchlich verwendet, um Fake-Videos ohne Einwilligung der Betroffenen zu erstellen.

(dsc/sda/afp)

DANKE FÜR DIE ♥

Da du bis hierhin gescrollt hast, gehen wir davon aus, dass dir unser journalistisches Angebot gefällt. Wie du vielleicht weisst, haben wir uns kürzlich entschieden, bei watson keine Login-Pflicht einzuführen. Auch Bezahlschranken wird es bei uns keine geben. Wir möchten möglichst keine Hürden für den Zugang zu watson schaffen, weil wir glauben, es sollten sich in einer Demokratie alle jederzeit und einfach mit Informationen versorgen können. Falls du uns dennoch mit einem kleinen Betrag unterstützen willst, dann tu das doch hier.

Würdest du gerne watson und Journalismus unterstützen?

(Du wirst zu stripe.com umgeleitet um die Zahlung abzuschliessen)

Oder unterstütze uns mit deinem Wunschbetrag per Banküberweisung.

Nicht mehr anzeigen

«Hate Speech» bei Facebook – was toleriert wird, und was nicht

Diese Deepfakes musst du gesehen haben

Das könnte dich auch noch interessieren:

Abonniere unseren Newsletter

2
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
2Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Gipfeligeist 08.01.2020 11:08
    Highlight Highlight Deepfakes zu verbieten ist, als würde man McDonalds verbieten ihre Burger-Werbung mit Photoshop zu bearbeiten.

    Der Sinn ist ja, dass es nicht erkennbar ist. Und das schafft die Technologie - entweder heute oder in 5 Jahren
    • stimpy13 08.01.2020 13:36
      Highlight Highlight Was McDonalds macht ist Bild-Optimierung. Hat zwar auch nicht mehr viel mit der Realität zu tun, stellt aber immer noch einen Burger dar.

Die Schweizer Verschwörungs-Influencer

Snowboardprofi Nicolas Müller und Comedian Gabirano Guinand verbreiten über ihre Social Media Kanäle abstruse Theorien über Kinderhandel, Impfungen oder 5G. Solche Einträge sehen jeweils Hunderttausende. Das ist nicht ungefährlich.

Fake News und Desinformation haben in Krisenzeiten Hochkonjunktur. Der US-Präsident Donald Trump empfahl eine Lichttherapie und das Spritzen von Desinfektionsmittel gegen das Coronavirus. Der deutsche Sänger Xavier Naidoo feiert den mehrfach verurteilten Reichsbürger Rüdiger Hoffmann als «wahren Helden» ab. Auf europäischen Plätzen demonstrieren Tausende gegen Bill Gates und seinen angeblichen Impfplan.

Solche abstrusen Verschwörungstheorien finden auch in der Schweiz eine Reihe von Anhängern. …

Artikel lesen
Link zum Artikel