Suisse
Twitter

Etudiant à l’EPFL, il prouve que les algorithmes Twitter discriminent

Etudiant à l’EPFL, il prouve que les algorithmes Twitter sont discriminatoires

Bogdan Kulynych a démontré que les algorithmes du réseau social avaient des critères esthétiques bien définis. Contacté par watson, il explique les préjudices que cause cette pratique à la société.
11.08.2021, 12:0931.08.2021, 18:25
Suivez-moi
Plus de «Suisse»

Lorsque Twitter recadre les photos de ses utilisateurs, il privilégie les visages plus jeunes, plus minces et plus clairs. Voilà ce que révèlent les investigations de Bogdan Kulynych, un étudiant de l'EPFL récompensé ce dimanche dans le cadre d'un prestigieux concours d’ingénieur.

«Cette découverte permettra d'anticiper les préjudices sociétaux que de tels bugs algorithmiques peuvent amener»
Bogdan Kulynychtwitter

Son enquête confirme des doutes de plusieurs mois émis par les usagers de la plateforme. Alerté par ce «bug», en mai 2021, les équipes informatiques de la société ont confirmé qu'il y avait eu «un très léger biais en faveur des visages blancs et féminin» et que les algorithmes de la plateforme avaient été corrigés.

Afin d'évaluer d'autres potentiels problèmes algorithmiques, Twitter a organisé un concours d'ingénierie à Las Vegas du 5 au 9 août. Mais c'était sans compter l'assiduité du participant suisse qui a permis de révéler au grand jour un problème conséquent.

Des préférences reflet de la société

Bogdan est parvenu à prouver que le problème concernant le recadrage d'image automatique était bien plus important que les conclusions soumises par les équipes de Twitter. Grâce à une palette de 16 visages générés par de l'intelligence artificielle (IA), le doctorant à l'EPFL a pu montrer que les algorithmes de Twitter ne focalisaient pas uniquement sur des visages clairs et féminins. Les physiques privilégiés par le réseau social étaient également jeunes, minces avec une peau lisse.

Quelques-uns des visages générés qui ont été utilisés pour tester l'algorithme de recadrage d'images de Twitter.
Quelques-uns des visages générés artificiellement utilisés afin de tester l'algorithme de recadrage d'images de Twitter.Image: Bogdan Kulynych

Si les résultats n'ont pas permis de définir avec des chiffres les causes précises qui influençaient un tel «choix», l'étudiant de l'EPFL, spécialiste en la matière, reste formel:

«Les algorithmes ne décident pas volontairement d'adopter un tel biais discriminatoire»
Bogdan Kulynychwatson

Selon lui, les données des algorithmes sont fondées sur ce que les êtres humains regardent principalement dans une image. Par la suite, les algorithmes ne font «qu'apprendre et répéter automatiquement cette préférence.»

Technologies «nocives», mais pas accidentelles

Cette découverte a valu à Bogdan Kulynych le premier prix de la compétition accompagné d’une prime de 3500 dollars (soit un peu plus de 3700 francs) d’après les informations rapportées par The Guardian. Le lauréat n'a pas hésité à partager sa joie sur les réseaux sociaux avant de néanmoins avouer ressentir un «sentiment partagé»:

«Les défauts algorithmiques ne sont pas seulement des "bugs". Il est crucial de comprendre que de nombreuses technologies nocives le sont, non pas à cause d'accidents ou d'erreurs involontaires, mais dues à la manière de les créer»
Bogdan Kulynychtwitter

Pour Bogdan, ces «bugs» Twitter participent aux critères de beauté biaisés qui façonnent la société, éliminant de fait «ceux ne répondant pas aux préférences de l'algorithme en termes de physique, d'âge, ou de couleur de peau». Il alerte notamment sur le fait que de tels critères influent particulièrement la fixation du salaire des gens, la gentrification, voire pire, la désinformation.

D'autres réseaux sociaux concernés

Dans The Verge, Patrick Hall, juge du concours Twitter et chercheur en IA a souligné que de tels biais «existaient dans tous les systèmes faisant appel à l’IA.» Comme Facebook et Instagram, par exemple. Le challenge pour les entreprises, précise-t-il, étant de travailler de manière proactive afin de les trouver et de les régler.

Une manœuvre pas aussi simple à mettre en place si l'on comprend les propos de Bogdan Kulynych: «Des travaux de recherche sont actuellement réalisés pour corriger ces biais. Mais il ne semble pas vraiment y avoir de solutions.»

What’s in/what’s out, les trends de ta semaine

Vidéo: watson
0 Commentaires
Comme nous voulons continuer à modérer personnellement les débats de commentaires, nous sommes obligés de fermer la fonction de commentaire 72 heures après la publication d’un article. Merci de votre compréhension!
Nespresso se paie Stan Wawrinka (et les photos sont super)
Présenté par la marque comme un «amoureux inconditionnel du café», Stan Wawrinka rejoint la «famille Nespresso», en qualité d'«ami». Comme Camille Cottin et Jean Dujardin, mais pas comme George Clooney qui, lui, est «ambassadeur». On vous explique tout sur ce «match parfait».

Vous en rêviez, ils l'ont fait. Stan Wawrinka, symbole national (avec Federer) du tennis suisse (avec Federer) et du revers à une main (avec Federer), s'est associé à un autre symbole helvétique, Nespresso. C'est même en ces termes que la marque annonce fièrement cette collaboration dans un communiqué de presse:

L’article