DE | FR

Etudiant à l’EPFL, il prouve que les algorithmes Twitter sont discriminatoires

Bogdan Kulynych a démontré que les algorithmes du réseau social avaient des critères esthétiques bien définis. Contacté par watson, il explique les préjudices que cause cette pratique à la société.
11.08.2021, 12:0931.08.2021, 18:25
Suivez-moi

Lorsque Twitter recadre les photos de ses utilisateurs, il privilégie les visages plus jeunes, plus minces et plus clairs. Voilà ce que révèlent les investigations de Bogdan Kulynych, un étudiant de l'EPFL récompensé ce dimanche dans le cadre d'un prestigieux concours d’ingénieur.

«Cette découverte permettra d'anticiper les préjudices sociétaux que de tels bugs algorithmiques peuvent amener»
Bogdan Kulynych
twitter

Son enquête confirme des doutes de plusieurs mois émis par les usagers de la plateforme. Alerté par ce «bug», en mai 2021, les équipes informatiques de la société ont confirmé qu'il y avait eu «un très léger biais en faveur des visages blancs et féminin» et que les algorithmes de la plateforme avaient été corrigés.

Afin d'évaluer d'autres potentiels problèmes algorithmiques, Twitter a organisé un concours d'ingénierie à Las Vegas du 5 au 9 août. Mais c'était sans compter l'assiduité du participant suisse qui a permis de révéler au grand jour un problème conséquent.

Des préférences reflet de la société

Bogdan est parvenu à prouver que le problème concernant le recadrage d'image automatique était bien plus important que les conclusions soumises par les équipes de Twitter. Grâce à une palette de 16 visages générés par de l'intelligence artificielle (IA), le doctorant à l'EPFL a pu montrer que les algorithmes de Twitter ne focalisaient pas uniquement sur des visages clairs et féminins. Les physiques privilégiés par le réseau social étaient également jeunes, minces avec une peau lisse.

Quelques-uns des visages générés artificiellement utilisés afin de tester l'algorithme de recadrage d'images de Twitter.
Quelques-uns des visages générés artificiellement utilisés afin de tester l'algorithme de recadrage d'images de Twitter.
Image: Bogdan Kulynych

Si les résultats n'ont pas permis de définir avec des chiffres les causes précises qui influençaient un tel «choix», l'étudiant de l'EPFL, spécialiste en la matière, reste formel:

«Les algorithmes ne décident pas volontairement d'adopter un tel biais discriminatoire»
Bogdan Kulynych
watson

Selon lui, les données des algorithmes sont fondées sur ce que les êtres humains regardent principalement dans une image. Par la suite, les algorithmes ne font «qu'apprendre et répéter automatiquement cette préférence.»

Technologies «nocives», mais pas accidentelles

Cette découverte a valu à Bogdan Kulynych le premier prix de la compétition accompagné d’une prime de 3500 dollars (soit un peu plus de 3700 francs) d’après les informations rapportées par The Guardian. Le lauréat n'a pas hésité à partager sa joie sur les réseaux sociaux avant de néanmoins avouer ressentir un «sentiment partagé»:

«Les défauts algorithmiques ne sont pas seulement des "bugs". Il est crucial de comprendre que de nombreuses technologies nocives le sont, non pas à cause d'accidents ou d'erreurs involontaires, mais dues à la manière de les créer»
Bogdan Kulynych
twitter

Pour Bogdan, ces «bugs» Twitter participent aux critères de beauté biaisés qui façonnent la société, éliminant de fait «ceux ne répondant pas aux préférences de l'algorithme en termes de physique, d'âge, ou de couleur de peau». Il alerte notamment sur le fait que de tels critères influent particulièrement la fixation du salaire des gens, la gentrification, voire pire, la désinformation.

D'autres réseaux sociaux concernés

Dans The Verge, Patrick Hall, juge du concours Twitter et chercheur en IA a souligné que de tels biais «existaient dans tous les systèmes faisant appel à l’IA.» Comme Facebook et Instagram, par exemple. Le challenge pour les entreprises, précise-t-il, étant de travailler de manière proactive afin de les trouver et de les régler.

Une manœuvre pas aussi simple à mettre en place si l'on comprend les propos de Bogdan Kulynych: «Des travaux de recherche sont actuellement réalisés pour corriger ces biais. Mais il ne semble pas vraiment y avoir de solutions.»

What’s in/what’s out, les trends de ta semaine

Vidéo: watson

Plus d'articles sur le thème «High-Tech»

Facebook veut tout faire pour ressembler à Clubhouse

Link zum Artikel

Fuite de données Facebook: 3 raisons pour ne pas les prendre à la légère

Link zum Artikel

Gucci vend douze francs des baskets qui n'existent pas

Link zum Artikel

Un collectionneur de crypto-art nous explique son délire

Link zum Artikel

On pourra (peut-être) jouer à la PS5 avec des bananes

Sony a déposé un brevet pour transformer n'importe quel objet du quotidien en manette pour sa PS5. Par exemple, une banane.

Des bananes en guise de manettes, what? Si, si. Sony a récemment déposé un brevet aux Etats-Unis en ce sens. Et le fabriquant d'électronique ne rigole pas: même dans le papier officiel, un ingénieur a dessiné une banane-manette 👇.

Vendue aux alentours de 75 francs, cette alternative permettrait aux joueurs de ne plus devoir hypothéquer leurs organes vitaux pour acheter une nouvelle manette lorsque la leur finit accidentellement contre le mur après une défaite à Fifa.

Mais comment fonctionne cette …

Lire l’article
Link zum Artikel