Etudiant à l’EPFL, il prouve que les algorithmes Twitter sont discriminatoires
Lorsque Twitter recadre les photos de ses utilisateurs, il privilégie les visages plus jeunes, plus minces et plus clairs. Voilà ce que révèlent les investigations de Bogdan Kulynych, un étudiant de l'EPFL récompensé ce dimanche dans le cadre d'un prestigieux concours d’ingénieur.
Son enquête confirme des doutes de plusieurs mois émis par les usagers de la plateforme. Alerté par ce «bug», en mai 2021, les équipes informatiques de la société ont confirmé qu'il y avait eu «un très léger biais en faveur des visages blancs et féminin» et que les algorithmes de la plateforme avaient été corrigés.
Afin d'évaluer d'autres potentiels problèmes algorithmiques, Twitter a organisé un concours d'ingénierie à Las Vegas du 5 au 9 août. Mais c'était sans compter l'assiduité du participant suisse qui a permis de révéler au grand jour un problème conséquent.
Des préférences reflet de la société
Bogdan est parvenu à prouver que le problème concernant le recadrage d'image automatique était bien plus important que les conclusions soumises par les équipes de Twitter. Grâce à une palette de 16 visages générés par de l'intelligence artificielle (IA), le doctorant à l'EPFL a pu montrer que les algorithmes de Twitter ne focalisaient pas uniquement sur des visages clairs et féminins. Les physiques privilégiés par le réseau social étaient également jeunes, minces avec une peau lisse.
Si les résultats n'ont pas permis de définir avec des chiffres les causes précises qui influençaient un tel «choix», l'étudiant de l'EPFL, spécialiste en la matière, reste formel:
Selon lui, les données des algorithmes sont fondées sur ce que les êtres humains regardent principalement dans une image. Par la suite, les algorithmes ne font «qu'apprendre et répéter automatiquement cette préférence.»
Technologies «nocives», mais pas accidentelles
Cette découverte a valu à Bogdan Kulynych le premier prix de la compétition accompagné d’une prime de 3500 dollars (soit un peu plus de 3700 francs) d’après les informations rapportées par The Guardian. Le lauréat n'a pas hésité à partager sa joie sur les réseaux sociaux avant de néanmoins avouer ressentir un «sentiment partagé»:
Pour Bogdan, ces «bugs» Twitter participent aux critères de beauté biaisés qui façonnent la société, éliminant de fait «ceux ne répondant pas aux préférences de l'algorithme en termes de physique, d'âge, ou de couleur de peau». Il alerte notamment sur le fait que de tels critères influent particulièrement la fixation du salaire des gens, la gentrification, voire pire, la désinformation.
D'autres réseaux sociaux concernés
Dans The Verge, Patrick Hall, juge du concours Twitter et chercheur en IA a souligné que de tels biais «existaient dans tous les systèmes faisant appel à l’IA.» Comme Facebook et Instagram, par exemple. Le challenge pour les entreprises, précise-t-il, étant de travailler de manière proactive afin de les trouver et de les régler.
Une manœuvre pas aussi simple à mettre en place si l'on comprend les propos de Bogdan Kulynych: «Des travaux de recherche sont actuellement réalisés pour corriger ces biais. Mais il ne semble pas vraiment y avoir de solutions.»