La plateforme de jeux vidéo Twitch introduit un système pour détecter les utilisateurs malveillants, qui créent de nouveaux comptes anonymes pour revenir sur des chaînes qui les ont bannis. Ce phénomène est problématique pour les victimes de harcèlement.
Le leader de la diffusion de parties de jeux vidéo en direct peine depuis des mois à endiguer une vague de harcèlement raciste et homophobe, qui consiste en des «raids de haine» contre certains créateurs, notamment des personnes non blanches ou de la communauté LGBTQ.
Les harceleurs viennent sur les fenêtres de chat de leurs victimes, et les inondent d'insultes ou d'images choquantes, comme des croix gammées quand le joueur est juif, par exemple. Si le créateur les bannit, certains reviennent en créant un nouveau compte.
Le nouvel outil, baptisé «Suspicious User Detection» (détection des utilisateurs suspects), «est là pour vous aider à identifier ces utilisateurs en fonction de certains signaux pour que vous puissiez prendre des mesures», a indiqué Twitch, tout en ajoutant:
Ce programme, fondé sur des techniques dites de «machine learning» (apprentissage automatisé des logiciels, une catégorie d'intelligence artificielle), distinguera les fraudeurs «probables» et «possibles». Dans le premier cas, leurs messages n'apparaîtront pas en public, seuls le joueur et ses modérateurs les verront. A charge à eux de décider ensuite de les surveiller ou de les bannir.
La plateforme appartient au géant des technologies Amazon, qui domine largement l'industrie mondiale du cloud (informatique à distance). Elle affirme accueillir plus de 30 millions de visiteurs par jour. (ats/jch)
