Pourquoi vous devez vous méfier de ce Jésus-crevette
Une image de Jésus, composé de crevettes. Une autre de Jésus avec le corps d'une écrevisse, adoré par d'autres crustacés. Ces images et d'autres similaires générées par l'intelligence artificielle (IA) inondent actuellement Facebook et reçoivent souvent des centaines de milliers de likes.
Elles ne servent pas simplement à amuser la galerie: elles sont régulièrement utilisées par des escrocs pour attirer l'attention des utilisateurs sur leurs pages. C'est la conclusion à laquelle est parvenu un groupe de recherche de l'université de Stanford.
Des sites frauduleux utilisent délibérément des images qui attirent l'attention des utilisateurs. Outre les figures de Jésus déjà mentionnées, les escrocs se servent souvent d'images où le coup de pinceau de l'IA est plus difficile à détecter. Par exemple, d'autres comptes partagent des images d'enfants qui se tiennent à côté d'œuvres d'art qu'ils auraient peintes eux-mêmes, généralement avec des titres tels que:
Les publications sont conçues de manière à ce que le plus grand nombre possible de personnes interagissent avec elles.
L'algorithme amplifie le problème
Sous ces posts, les fraudeurs partagent ensuite des liens vers des sites web qui visent soit à inciter les utilisateurs à acheter des produits qui n'existent pas vraiment, soit à divulguer leurs données personnelles. Sous un grand nombre de ces publications, les utilisateurs tentent de mettre en garde contre ces escroqueries, mais les chercheurs de l'université de Stanford montrent qu'elles réussissent malgré tout.
Ce qui est particulièrement problématique, c'est que ces contributions sont également affichées aux utilisateurs qui ne suivent pas ces pages ou qui n'ont jamais interagi avec elles. Selon les chercheurs, cela est dû au fait que Meta, la maison mère de Facebook, a modifié il y a quelque temps son algorithme afin que la page d'accueil de Facebook affiche surtout des choses qui ont particulièrement beaucoup d'interactions. Une stratégie développée afin de garder les utilisateurs plus longtemps sur la page et de pouvoir ainsi mieux concurrencer TikTok.
Traduit et adapté de l'allemand par Léa Krejci