Méfiez-vous de ces vidéos sur la tempête Melissa
Alors que pouvoirs politiques et secours s'organisent et diffusent les messages adéquats aux populations à risque, l'AFP a identifié sur les réseaux sociaux des dizaines de contenus mensongers, la plupart portant la signature en filigrane de Sora, un modèle de génération de vidéos d'OpenAI. Contacté par l'AFP, le groupe OpenAI n'a pas donné suite.
L'ouragan, qui pourrait être le plus violent à toucher la Jamaïque et a déjà fait plusieurs morts, risque de causer inondations et glissements de terrain catastrophiques.Lundi, la ministre de l'Information et sénatrice jamaïcaine Dana Morris Dixon a déclaré qu'elle et d'autres ministres s'étaient joints à une conférence de presse pour fournir des «informations correctes» sur cette monstrueuse tempête.
«Je suis dans beaucoup de groupes WhatsApp et je vois toutes ces vidéos arriver. Beaucoup d'entre elles sont fausses», a-t-elle regretté.
Les vidéos montraient toute une gamme de scénarios fabriqués, allant de faux bulletins d'information aux images d'inondations sévères, en passant par des requins en maraude et de poignantes scènes de souffrance humaine.
D'autres semblaient montrer des habitants, souvent avec des accents jamaïcains marqués, apparemment destinés à renforcer les stéréotypes, faisant la fête, naviguant, faisant du jet-ski ou se baignant joyeusement avant l'arrivée de l'ouragan. Des faux contenus qui noient des alertes importantes en matière de sécurité et amènent les usagers à sous-estimer le danger.
Comme cette fausse vidéo 👇
@rastabad876 Jamaican Rasta Hurricane Melissa #ai #sora #rasta #fyp #hurricane ♬ original sound - Rasta
Faux, mais convaincants
«Les faux contenus sapent le travail sérieux du gouvernement», assure Amy McGovern, professeure de météorologie à l'Université de l'Oklahoma, spécialisée dans l'utilisation de l'IA sur les prévisions météorologiques extrêmes.
Les clips identifiés par l'AFP sont principalement diffusés sur TikTok. Et si la plateforme est censée imposer qu'un contenu généré par l'IA soit identifié comme tel, seuls certains d'entre eux portaient l'étiquette obligatoire.
TikTok semblait mardi avoir supprimé plus de deux douzaines de ces vidéos ainsi que plusieurs comptes dédiés à leur partage, après un signalement de l'AFP. Mais d'autres exemples ont été trouvés sur Facebook et Instagram, où la règle est pourtant supposée être identique.
Pour Hany Farid, cofondateur de la société de cybersécurité GetReal Security et professeur à l'Université de Californie Berkeley, l'ouragan Mélissa témoigne de ce que les nouveaux modèles texte-vidéo ont bien «accéléré la propagation de faux contenus convaincants».
Les nouvelles applications permettent ainsi de générer des avatars humains hyperréalistes. Et de nombreux utilisateurs semblaient ignorer que les images en question étaient fausses en dépit de leur filigrane, a pu constater l'AFP dans les commentaires des vidéos.
Comme ce vieil homme criant qu'il ne «bougerait pas pour une petite brise» dans une vidéo d'IA de TikTok. «Dieu, s'il te plaît, protège la maison de grand-père et le manguier», a écrit dessous un commentateur, tandis qu'un autre réclamait plus de mises à jour sur l'état de sa propriété.
Et un flot de prières similaires s'affichaient sous une autre vidéo représentant une femme appelant à l'aide, des bébés dans les bras sous une maison sans toit. «Le paradoxe de l'ère de l'information, c'est que nous devenons moins informés en tant que public alors que la quantité d'informations augmente», a souligné Hany Farid à l'AFP.