Il est bien plus facile d'insulter quelqu'un en ligne que dans la vraie vie. Et les réseaux sociaux sont les lieux de prédilection pour ceux qui trouvent un malin plaisir à vider leur sac.
Pour lutter contre cette tendance qui empoisonne nos vies digitales, alliance F a rassemblé ses forces et a collaboré avec l’EPFZ et l’Université de Zurich afin de lancer le projet Stop hate speech, une plateforme en ligne combinant société civile, science et technologie.
Parfois, la distinction, entre un propos énervant et un commentaire qui incite à la haine, n'est pas si évidente que ça. Il y a une différence entre le langage toxique, qui pourrait être une insulte par exemple et le langage haineux qui visent un groupe en particulier. Pour les différencier, il suffit de se demander: est-ce que ce propos (négatif) vise un groupe en particulier? Si c'est le cas, c'est un commentaire haineux.
Le projet Stop hate speech vise non seulement à proposer une solution concrète au harcèlement en ligne, mais également à éduquer les utilisateurs sur ce qui constitue ou non un commentaire haineux. Par la suite, le projet proposera aussi des ateliers de «counter-speech» pour apprendre à réagir à ces propos malveillants.
Dans un premier temps, l’idée, c'est de dompter le «bot dog» l'algorithme qui se chargera par la suite de repérer et signaler les commentaires haineux. Et pour lui apprendre à faire la différence, il faudra lire et classifier une série de commentaires haineux.
Pas besoin de connaissances sur le sujet ou autre, le but c'est de dire si tel ou tel commentaire est un message haineux ou non. Chaque membre de la communauté répondra en fonction de ses valeurs, expériences et opinions. Il n'y a pas mieux pour entraîner le «bot dog» qui au fil du temps deviendra de plus en plus précis et capable de cerner le discours de haine. Le plus de personnes participeront à ce projet, le plus de chance il aura de réussir.
Une fois que l'algorithme sera bien entraîné, les commentaires haineux pourront être signalés par la plateforme à la communauté qui pourra ensuite répondre de la manière la plus appropriée. Une technologie qui permet à la société civile d'agir concrètement.
Présente à l'inauguration, Lisa Mazzone, conseillère aux Etats, membre des Verts, confie qu'elle a choisi de ne pas être sur les réseaux sociaux, entre autres à cause des commentaires haineux:
D'après Morgane Bonvallat, responsable du développement de la plateforme «Stop hate speech» et de sa communauté, une des raisons principales pour lesquelles ce projet a été mis en place est aussi parce qu'il n'y a aucune donnée en Suisse sur les commentaires haineux. Il est donc très difficile de faire valoir ses droits.
Selon elle, les commentaires haineux représenteraient peu d'utilisateurs, qui ont beaucoup d'impact, «si on s’y met tous, on peut noyer ces commentaires haineux, c'est le but du projet», explique-t-elle. «Les commentaires haineux sont très peu supprimés et n’ont pas vraiment de poids pénalement», continue Morgane. Le projet permettrait ainsi d'appréhender une zone grise, que ni les plateformes ni la loi ne régulent.
Maya Hertig, professeure et vice-présidente de la Commission fédérale contre le racisme, raconte qu'elle n'est pas non plus présente sur les réseaux. A ses yeux, c'est surtout la récurrence qui a un impact:
Depuis le lancement du projet en Suisse alémanique en janvier 2021, Stop hate speech compte près de 2000 membres avec environ 100 000 commentaires évalués. Pour entraîner le bot dog et contribuer à réduire les discours de haine en ligne, c'est par ici.
