Image: potlight.ebu.ch
Des tonnes de deepfakes au Mondial servent des intérêts obscurs
Comme tout événement majeur, la Coupe du monde de football est détournée sur les réseaux dits sociaux pour diffuser des contenus d'IA et de la désinformation. Et ces fakes ont fait sensation durant les premières semaines du tournoi.
Non, cette beauté brésilienne n'est pas réelle
Les contenus qui circulent le plus actuellement sur le net sont des «honey shots» générés par IA, c'est-à-dire des clips de prétendues beautés assistant aux matchs. Une vidéo d'IA très répandue de ce type montre une jeune femme et un homme assis à côté d'elle, qui fixe son décolleté généreux.
Le commentaire en anglais dans la vidéo dit: «Eh bien, on dirait qu'on a coincé quelqu'un. Et maintenant, il fait le mec cool après avoir réalisé qu'il passait sur l'écran géant. Hahaha. Retour au jeu dans ce match entre le Brésil et le Maroc.»
A elle seule, cette fausse vidéo a généré des centaines de millions de vues sur Facebook, Reddit, YouTube et TikTok.
Les fact-checkers d'Eurovision News Spotlight ont retrouvé la vidéo originale sur Instagram, publiée par une utilisatrice nommée Chiara Cleo. Elle a récolté jusqu'à présent 667 000 likes et atteint plus de 41 millions de vues. Sur le profil, on peut voir d'autres vidéos d'IA de la prétendue jeune femme avec des allusions sexuelles explicites; par exemple, déambulant en tenue légère dans un centre commercial. L'influenceuse fictive créée par IA compte plus de 340 000 abonnés. A en juger par les commentaires, beaucoup pensent qu'il s'agit d'une personne réelle.
Son profil Instagram renvoie vers Fanvue, une plateforme comparable à OnlyFans, où des contenus érotiques d'IA sont proposés contre paiement. Derrière cela se cache une industrie qui gagne de l'argent avec des modèles numériques générés par IA. Les revenus proviennent d'abonnements mensuels, de contenus pay-per-view, de messages privés payants et de pourboires. Les clips viraux de «honey shots» servent donc d'appâts pour des abonnements érotiques.
ki-bild: instagram
La télévision belge RTBF a démontré que la beauté brésilienne était générée par IA. L'analyse de la vidéo a révélé plusieurs incohérences: pendant que la vidéo tourne, le chronomètre reste bloqué à 54:19. De plus, le logo d'ESPN est visible alors que le match n'était pas diffusé par cette chaîne. L'expérience montre que de tels détails sont ignorés par de nombreux utilisateurs de réseaux sociaux.
Une analyse avec le détecteur de deepfakes Hive a confirmé que la vidéo était à 99,9% générée par IA et très probablement créée avec Seedance 2.0. Il s'agit du générateur de vidéos d'IA de ByteDance (les développeurs de TikTok), qui transforme par exemple une photo en une courte vidéo avec du son.
De tels outils d'IA sont également utilisés pour créer des fakes sexistes impliquant des animatrices de football, comme c'est le cas pour l'animatrice de l'ARD Esther Sedlaczek.
Non, ce sosie d'Hitler n'était pas au stade
Après le match Allemagne contre Curaçao, des photos d'un prétendu sosie d'Hitler, semblant vibrer au milieu des supporters allemands dans le stade, sont apparues sur Instagram, Reddit, X et consorts. Le faux post a généré au total plusieurs millions de vues et des centaines de milliers de likes sur diverses plateformes sociales.
L'image manipulée a rapidement été démasquée comme un fake par plusieurs fact-checkers. Les images télévisées et les photos de presse montrent à quoi ressemble réellement l'homme. De toute évidence, il n'a aucune ressemblance avec Adolf Hitler.
Bon à savoir: les fournisseurs d'IA comme Google (Gemini) et OpenAI (ChatGPT) intègrent désormais un filigrane numérique dans leurs images générées par IA. Celui-ci est invisible pour l'œil humain, mais peut être lu sans équivoque par les sites de vérification. ZDFheute a passé l'image d'Hitler au crible de plusieurs outils d'analyse et, effectivement, elle porte le filigrane d'OpenAI.
Nous avons également téléchargé la photo sur l'IA de Google, Gemini. La réponse de Gemini:
La réponse générée par l'IA de Google souligne également que des fact-checks indépendants ont démasqué la photo comme une manipulation.
Non, Kylian Mbappé n'a pas accusé Macron de harcèlement sexuel
Selon l'organisation NewsGuard, la Russie utilise également la Coupe du monde pour sa campagne de désinformation. Ainsi, peu avant le premier match de la France à la Coupe du monde, un faux article ainsi qu'une fausse vidéo arborant le logo de la chaîne Eurosport ont été publiés sur les réseaux sociaux. On y diffuse en français la fausse information selon laquelle la star française Kylian Mbappé accuserait le président français Emmanuel Macron de harcèlement sexuel.
Selon NewsGuard, la fausse allégation a atteint 14 millions de vues en quelques jours sur la seule plateforme d'Elon Musk. Quiconque clique sur le lien atterrit sur un faux site web d'Eurosport contenant ledit faux article. L'auteur présumé de la publication a également qualifié l'article de fausse information auprès de NewsGuard. Le journaliste a précisé:
Pour la fausse vidéo, un véritable enregistrement de Mbappé et Macron a été utilisé et la voix de Mbappé a été falsifiée. Derrière cela se trouverait la campagne de désinformation russe Storm-1516. Storm-1516 est un réseau de désinformation coordonné par le Kremlin et le service de renseignement militaire russe GRU, actif depuis des années. Il se compose d'un complexe d'influenceurs et de groupes de réflexion russes qui diffusent de manière ciblée des fake news sur l'Ukraine et ses soutiens. La campagne prend régulièrement pour cible des politiciens français et allemands et possède des ramifications en Suisse. (trad. hun)