bild: potlight.ebu.ch
Zu schön um wahr zu sein: Wie KI-Fakes die WM manipulieren
Wie jedes Grossereignis wird auch die Fussball-WM in den sogenannten sozialen Medien für die Verbreitung von KI-Inhalten und Falschinformationen missbraucht. Diese KI-Fakes haben in den ersten WM-Wochen für Aufsehen gesorgt.
Nein, diese brasilianische Schönheit ist nicht real
Die grösste Verbreitung im Netz finden derzeit KI-generierte «Honey Shots», also KI-generierte Clips angeblicher Schönheiten, die den WM-Spielen beiwohnen. Ein weit verbreitetes KI-Video dieser Art zeigt eine junge Frau und einen neben ihr sitzenden Mann, der auf ihren grosszügigen Ausschnitt starrt.
Der englische Kommentar im Video lautet: «Na, da haben wir wohl jemanden erwischt. Und jetzt gibt er sich ganz cool, nachdem er gemerkt hat, dass er auf der Videoleinwand zu sehen ist. Hahaha. Zurück zum Spielgeschehen im Match zwischen Brasilien und Marokko.»
Allein dieses Fake-Video erzielte auf Facebook, Reddit, YouTube und TikTok Hunderte Millionen Aufrufe (PDF).
Die Faktenchecker von Eurovision News Spotlight fanden das Original-Video auf Instagram, veröffentlicht von einer Userin namens Chiara Cleo. Es erzielte bislang 667'000 Likes und erreichte über 41 Millionen Aufrufe. Auf dem Profil sind weitere KI-Videos der vermeintlich jungen Frau mit eindeutig sexuellen Anspielungen zu sehen; etwa wie sie knapp bekleidet durch ein Einkaufszentrum schlendert. Die fiktive KI-Influencerin hat über 340'000 Follower. Den Kommentaren nach zu urteilen, halten sie viele für eine echte Person.
Das Instagram-Profil verlinkt auf Fanvue, eine mit OnlyFans vergleichbare Video-Plattform, auf der gegen Bezahlung erotische KI-Inhalte angeboten werden. Dahinter steckt eine Industrie, die mit digital erzeugten KI-Models Geld verdient. Einnahmen entstehen durch monatliche Abonnements, Pay-per-View-Inhalte, private kostenpflichtige Nachrichten und Trinkgelder. Die viralen «Honey Shots»-Clips dienen somit als Lockvogel für Erotik-Abos.
ki-bild: instagram
Das belgische Fernsehen RTBF überführte die brasilianische Schönheit als KI-generiert. Bei der Analyse des viralen Videos zeigten sich mehrere Ungereimtheiten: Während das Video läuft, bleibt der Timer bei 54:19 stehen. Ausserdem ist das ESPN-Logo zu sehen, obwohl das Spiel nicht von diesem Sender übertragen wurde. Solche Details werden erfahrungsgemäss von vielen Social-Media-Usern übersehen.
Eine Analyse mit dem Deepfake-Detektor Hive bestätigte, dass das Video zu 99,9 Prozent KI-generiert und höchstwahrscheinlich mit Seedance 2.0 erstellt wurde. Dabei handelt es sich um den KI-Video-Generator von ByteDance (den Entwicklern von TikTok), der beispielsweise ein Foto in ein kurzes Video mit Ton verwandelt.
Solche KI-Tools werden auch genutzt, um von Fussballmoderatorinnen sexistische KI-Fakes zu erstellen. Davon betroffen ist etwa ARD-Moderatorin Esther Sedlaczek.
Nein, dieser Hitler-Doppelgänger war nicht im Stadion
Nach dem Spiel Deutschland gegen Curaçao tauchten auf Instagram, Reddit, X und Co. Fotos eines angeblichen Hitler-Doppelgängers auf, der scheinbar mitten unter den deutschen Fans im Stadion mitfieberte. Der Fake-Post generierte auf diversen Social-Media-Plattformen insgesamt mehrere Millionen Views und Hunderttausende Likes.
Das manipulierte Bild wurde rasch von mehreren Faktencheckern als Fake entlarvt. TV-Aufnahmen und Pressebilder zeigen, wie der Mann tatsächlich aussieht. Ganz offenbar hat er keinerlei Ähnlichkeit mit Adolf Hitler.
Gut zu wissen: KI-Anbieter wie Google (Gemini) und OpenAI (ChatGPT) hinterlegen in ihren KI-generierten Bildern inzwischen ein sogenanntes digitales Wasserzeichen. Das ist für Menschen unsichtbar, kann aber von den Verifikationsseiten zweifelsfrei ausgelesen werden. «ZDFheute» hat das Hitler-Bild durch mehrere Analyse-Tools laufen lassen und tatsächlich, es trägt das Wasserzeichen von OpenAI.
Wir haben das Foto zusätzlich bei Googles KI Gemini hochgeladen. Geminis Antwort:
Googles KI-generierte Antwort weist zudem darauf hin, dass unabhängige Faktenchecks das Foto als Manipulation enttarnt haben.
Kurz gesagt: Der Fake-Hitler im Publikum wurde mit KI erstellt, aber KI-Tools können KI-generierte Inhalte anhand digitaler Wasserzeichen auch entlarven.
Nein, Kylian Mbappé hat Macron nicht sexuelle Belästigung vorgeworfen
Auch Russland nutzt laut der Organisation NewsGuard die WM für seine Desinformationskampagne. So wurde kurz vor Frankreichs erstem Spiel an der WM ein gefälschter Artikel sowie ein Fake-Video mit dem Logo des Senders Eurosport in den sozialen Medien veröffentlicht. Darin wird auf Französisch die Falschinformation verbreitet, dass Frankreichs Star-Spieler Kylian Mbappé dem französischen Präsidenten Emmanuel Macron sexuelle Belästigung vorwerfe.
Laut NewsGuard erreichte die Falschbehauptung in wenigen Tagen 14 Millionen Aufrufe allein auf der Plattform X (ehemals Twitter). Wer auf den Link klickt, landet auf einer gefälschten Eurosport-Webseite mit dem besagten Fake-Artikel. Auch der vermeintliche Autor des Beitrags hat den Artikel gegenüber NewsGuard als Falschmeldung bezeichnet. Der Journalist stellte klar: «Das ist eine groteske Falschmeldung, die weder mit Eurosport noch mit mir selbst irgendetwas zu tun hat.»
Für das Fake-Video wurde eine echte Aufnahme von Mbappé und Macron genommen und Mbappés Stimme gefälscht. Dahinter soll die russische Desinformationskampagne Storm-1516 stehen. Storm-1516 ist ein vom Kreml und dem russischen Militärgeheimdienst GRU koordiniertes Desinformations-Netzwerk, das seit Jahren aktiv ist. Es besteht aus einem Komplex aus Influencern und russischen Denkfabriken, die gezielt Fake News über die Ukraine und ihre Unterstützer verbreiten. Die Kampagne nimmt immer wieder französische und deutsche Politiker ins Visier – und hat Ausläufer in der Schweiz.
