Un algorithme de recommandation de Facebook a demandé à des utilisateurs s'ils souhaitaient voir d'autres «vidéos sur les primates» sous une vidéo d'un tabloïd britannique montrant des personnes noires, a révélé le New York Times vendredi.
Ce qui a mis le feu aux poudres c'est notamment un tweet de Darci Groves, une ancienne designer du géant des réseaux sociaux, scandalisée 👇.
Um. This “keep seeing” prompt is unacceptable, @Facebook. And despite the video being more than a year old, a friend got this prompt yesterday. Friends at FB, please escalate. This is egregious. pic.twitter.com/vEHdnvF8ui
— Darci Groves (@tweetsbydarci) September 2, 2021
La vidéo du Daily Mail, vieille de plus d'un an, est intitulée «un homme blanc appelle les flics contre des hommes noirs à la marina». Elle ne montre que des personnes, pas de singes. En dessous, le site posait la question: «voir plus de vidéos sur les primates?», à certains utilisateurs.
Le groupe californien a désactivé l'outil de recommandation sur ce sujet «dès que nous nous sommes aperçus de ce qui se passait afin d'enquêter sur les causes du problème et empêcher que cela ne se reproduise», a précisé la porte-parole.
«Comme nous l'avons dit, même si nous avons amélioré nos systèmes d'intelligence artificielle, nous savons qu'ils ne sont pas parfaits et que nous avons des progrès à faire», a expliqué la porte-parole de Facebook.
L'affaire souligne les limites des technologies d'intelligence artificielle, régulièrement mise en avant par la plateforme dans ses efforts pour construire un fil personnalisé à chacun de ses près de trois milliards d'utilisateurs mensuels.
Elle s'en sert aussi beaucoup dans la modération des contenus, pour identifier et bloquer des messages et images problématiques avant même qu'ils ne soient vus.
Facebook, comme ses concurrents, est régulièrement accusé de ne pas lutter suffisamment contre le racisme et d'autres formes de haine et de discriminations.
Le sujet suscite d'autant plus de tensions que de nombreuses organisations de la société civile accusent les réseaux sociaux et leurs algorithmes de contribuer à la division de la société américaine, dans le contexte des manifestations du mouvement «Black Lives Matter» (les vies noires comptent). (jah/ats)