DE | FR
Pour lutter contre ce phénomène, le projet Stop hate speech a été lancé.
Pour lutter contre ce phénomène, le projet Stop hate speech a été lancé.

Un logiciel suisse veut agir face à la haine en ligne et vous pouvez l'aider

Alliance F, la faîtière des organisations féministes en suisse, inaugure une plateforme pour lutter contre les commentaires haineux en ligne. Mais attention, il faut d'abord entraîner l'algorithme!
29.04.2022, 17:0001.05.2022, 14:04
Suivez-moi

Il est bien plus facile d'insulter quelqu'un en ligne que dans la vraie vie. Et les réseaux sociaux sont les lieux de prédilection pour ceux qui trouvent un malin plaisir à vider leur sac.

Pour lutter contre cette tendance qui empoisonne nos vies digitales, alliance F a rassemblé ses forces et a collaboré avec l’EPFZ et l’Université de Zurich afin de lancer le projet Stop hate speech, une plateforme en ligne combinant société civile, science et technologie.

«Il est grand temps d’agir afin que chacun-e puisse se sentir en sécurité en ligne et s’exprimer librement et démocratiquement»
Alliance F

Quel est l'objectif du projet?

Parfois, la distinction, entre un propos énervant et un commentaire qui incite à la haine, n'est pas si évidente que ça. Il y a une différence entre le langage toxique, qui pourrait être une insulte par exemple et le langage haineux qui visent un groupe en particulier. Pour les différencier, il suffit de se demander: est-ce que ce propos (négatif) vise un groupe en particulier? Si c'est le cas, c'est un commentaire haineux.

Le projet Stop hate speech vise non seulement à proposer une solution concrète au harcèlement en ligne, mais également à éduquer les utilisateurs sur ce qui constitue ou non un commentaire haineux. Par la suite, le projet proposera aussi des ateliers de «counter-speech» pour apprendre à réagir à ces propos malveillants.

Maya Hertig, Lisa Mazzone, Meriam Mastour et Morgane Bonvallat à l'occasion de l'inauguration de la plateforme à Genève le 28 avril 2022.
Maya Hertig, Lisa Mazzone, Meriam Mastour et Morgane Bonvallat à l'occasion de l'inauguration de la plateforme à Genève le 28 avril 2022.

Comment il fonctionne?

Dans un premier temps, l’idée, c'est de dompter le «bot dog» l'algorithme qui se chargera par la suite de repérer et signaler les commentaires haineux. Et pour lui apprendre à faire la différence, il faudra lire et classifier une série de commentaires haineux.

Pas besoin de connaissances sur le sujet ou autre, le but c'est de dire si tel ou tel commentaire est un message haineux ou non. Chaque membre de la communauté répondra en fonction de ses valeurs, expériences et opinions. Il n'y a pas mieux pour entraîner le «bot dog» qui au fil du temps deviendra de plus en plus précis et capable de cerner le discours de haine. Le plus de personnes participeront à ce projet, le plus de chance il aura de réussir.

Une fois que l'algorithme sera bien entraîné, les commentaires haineux pourront être signalés par la plateforme à la communauté qui pourra ensuite répondre de la manière la plus appropriée. Une technologie qui permet à la société civile d'agir concrètement.

Pourquoi on en a besoin?

Présente à l'inauguration, Lisa Mazzone, conseillère aux Etats, membre des Verts, confie qu'elle a choisi de ne pas être sur les réseaux sociaux, entre autres à cause des commentaires haineux:

«C’est un espace qui peut être extrêmement violent, surtout pour une figure politique publique»

D'après Morgane Bonvallat, responsable du développement de la plateforme «Stop hate speech» et de sa communauté, une des raisons principales pour lesquelles ce projet a été mis en place est aussi parce qu'il n'y a aucune donnée en Suisse sur les commentaires haineux. Il est donc très difficile de faire valoir ses droits.

Selon elle, les commentaires haineux représenteraient peu d'utilisateurs, qui ont beaucoup d'impact, «si on s’y met tous, on peut noyer ces commentaires haineux, c'est le but du projet», explique-t-elle. «Les commentaires haineux sont très peu supprimés et n’ont pas vraiment de poids pénalement», continue Morgane. Le projet permettrait ainsi d'appréhender une zone grise, que ni les plateformes ni la loi ne régulent.

Maya Hertig, professeure et vice-présidente de la Commission fédérale contre le racisme, raconte qu'elle n'est pas non plus présente sur les réseaux. A ses yeux, c'est surtout la récurrence qui a un impact:

«Si c'est un commentaire de temps en temps, on peut encaisser, mais si on en reçoit beaucoup, cela peut être très nocif pour l'estime de soi et le moral»

Entraîner l'algorithme

Depuis le lancement du projet en Suisse alémanique en janvier 2021, Stop hate speech compte près de 2000 membres avec environ 100 000 commentaires évalués. Pour entraîner le bot dog et contribuer à réduire les discours de haine en ligne, c'est par ici.

25 panneaux de toilettes qui sont drôles (ou sexistes)

1 / 27
25 panneaux de toilettes qui sont drôles (ou sexistes)
source: imgur
partager sur Facebookpartager sur Twitterpartager par WhatsApp

watson participe à la «Session des Femmes»

Plus d'articles sur la réélection d'Emmanuel Macron et la suite du programme

Brigitte et Emmanuel Macron: «On a cherché les emmerdes…»

Link zum Artikel

Le discours de Macron ++ Une Marseillaise à l'américaine

Link zum Artikel

Macron réélu, une victoire contre le nationalisme et le complotisme

Link zum Artikel

Mélenchon: Les Français peuvent-ils vraiment l'élire premier ministre?

Link zum Artikel
0 Commentaires
Comme nous voulons continuer à modérer personnellement les débats de commentaires, nous sommes obligés de fermer la fonction de commentaire 72 heures après la publication d’un article. Merci de votre compréhension!
«J'ai honte de mon pays»: à Genève ce haut diplomate russe en a marre de Poutine
Le conseiller russe auprès des Nations unies à Genève a démissionné avec fracas. Dans une lettre ouverte, il dénonce un système russe dysfonctionnel.

L'ambassadeur russe auprès de l'ONU à Genève, Boris Bondarev, a démissionné de son poste. Il est jusqu'à présent le plus haut diplomate russe à avoir quitté son poste depuis le début de la guerre.

L’article