L'intelligence artificielle générative a décollé en 2024. Les gens sont fascinés par les possibilités offertes par cette nouvelle technologie. Et de plus en plus de criminels tentent d'en tirer profit. Un problème massif se dessine dans le domaine des images et vidéos générées artificiellement.
Il existe aujourd'hui toute une série d'applications et de sites web qui se sont spécialisés dans la création simple de vidéos d'IA. Il suffit parfois d'entrer une phrase pour obtenir un petit film quelques minutes plus tard. Pourtant, la lutte contre les fausses images ne suit pas.
Les grandes plateformes vidéo financées par la publicité, avec leurs algorithmes de recommandation conçus pour attirer un maximum d'attention, sont particulièrement concernées.
Le journaliste et auteur allemand Mats Schönauer a étudié le phénomène sur YouTube et en tire une conclusion décevante: les contre-mesures prises jusqu'à présent apportent bien trop peu de solutions. Mais Google promet de s'améliorer.
Au cours de recherches menées pendant des mois, Mats Schönauer a découvert, selon ses propres dires, «un énorme réseau» de chaînes YouTube dont le contenu vidéo est entièrement généré par l'IA. Les créateurs diffusent des «photomontages choquants» et des «fausses informations répugnantes».
De telles images visent à faire croire aux utilisateurs que des personnes connues ont dû être amputées d'un bras ou d'une jambe, voire des deux. D'autres fausses vidéos diffusent des mensonges pouvant faire l'objet de plaintes judiciaires:
La liste des fausses informations pourrait s'allonger à l'infini. D'après Mats Schönauer, c'est la première fois que des mensonges générés par l'IA sont diffusés à une telle échelle au sujet de personnes réelles.
Selon le journaliste, à cela s'ajoute le fait que les responsables derrière les vidéos d'IA sur YouTube provoquent aussi avec du «ragebait»: ils ne profitent pas seulement de la curiosité des utilisateurs, mais aussi de leur colère.
Ces chaînes intéressent manifestement un large public. Les vidéos qu'il a étudiées ont été visionnées plus de 100 millions de fois.
Une des pistes étudiées par Mats Schönauer menait en Asie. Au Vietnam, pour être précis. De nombreuses chaînes YouTube problématiques ont un lien avec ce pays, par exemple une adresse e-mail vietnamienne dans les mentions légales. Il arrive aussi que des chaînes qui généraient du contenu sur d'autres sujets se soient désormais spécialisés dans les fake-news sur les célébrités.
De nombreuses fermes de contenu sont installées au Vietnam depuis un certain temps. On soupçonne qu'elles produisent massivement des contenus grâce à l'intelligence artificielle. Avec ces vidéos bon marché, les commanditaires tentent de profiter des programmes publicitaires des grandes plateformes et des réseaux sociaux. Plus une contribution attire l'attention, plus elle est lucrative.
Le journaliste soupçonne que des réseaux entiers se cachent derrière ce modèle:
Une telle situation avait déjà été observée auparavant sur d'autres sujets, comme les vidéos de bricolage produites à bas prix et les vidéos d'animation douteuses destinées aux enfants.
Il convient de noter que les vidéos IA ne se limitent pas aux fake news sur les célébrités. Depuis un certain temps, YouTube a également un problème massif avec les fausses vidéos éducatives qui s'adressent à un public jeune, voire très jeune.
Les vidéos correspondantes portent des titres comme «20 choses horribles dans la forêt amazonienne» ou «15 créatures géantes trouvées sur les plages». Et elles atteignent souvent un public de plusieurs millions de personnes.
Il y a un an, YouTube, qui fait partie du groupe Alphabet de Google, a adopté une directive selon laquelle les contenus générés par l'IA doivent être signalés.
Cependant, de nombreux Youtubeurs qui créent et diffusent des contenus sur la plateforme ne respectent pas cette disposition et celle-ci n'est pas appliquée de manière conséquente. De plus, le marquage en haut à gauche de l'image est à peine visible, critique Mats Schönauer.
Le spécialiste affirme que le système de contrôle automatisé intégré à la plate-forme vidéo fonctionne lentement et, dans de nombreux cas, pas du tout. En outre, on peut se demander si le groupe technologique paie suffisamment de contrôleurs humains. Google lui-même indique en employer 20 000 dans le monde entier.
Il y a quelques jours, le groupe technologique américain a annoncé son intention d'agir davantage contre les contenus «clickbaits» sur son portail vidéo. Dans le cadre d'un essai pilote mené en Inde, Google veut renforcer sa lutte contre les titres et les aperçus trompeurs sur YouTube.
Dans un premier temps, l'exploitant de la plateforme se contenterait de supprimer les vidéos identifiées comme clickbait, mais ne sanctionnerait pas davantage les créateurs. Les Youtubeurs devraient donc avoir plus de temps qu'il n'en faut pour s'adapter à ce changement.
Ironiquement, l'intelligence artificielle est également au centre de la lutte contre l'invasion de l'IA sur YouTube. On peut douter que cela suffise.
L'organisation américaine de recherche sur les médias NewsGuard avait déjà constaté en 2023 que l'IA générative permettait aux exploitants de fermes de contenu d'automatiser davantage leurs processus. Nous devons donc nous attendre à davantage de fakes, et non à moins.
Actuellement, on ne sait pas comment YouTube va réussir à détecter automatiquement les contenus clickbaits. Comment déterminer de manière fiable qu'un titre et une vignette de vidéo ne correspondent pas au contenu de la vidéo?
Par ailleurs, les personnes intéressées par ce type de contenus ne peuvent guère être atteintes par des vidéos de sensibilisation. Ces utilisateurs peu compétents en matière de médias évoluent dans leur propre «bulle», dans laquelle aucun message sérieux ne peut pénétrer. Un problème encore renforcé par l'algorithme de recommandation.
Traduit et adapté par Chiara Lecca
