Ados dénudées avec l'IA: le problème touche aussi les écoles suisses
Des élèves de l’école secondaire âgés de 12 à 14 ans auraient utilisé l’intelligence artificielle pour produire des images sexualisées (appelées «deepnudes») de leurs camarades féminines, qu’ils ont ensuite envoyées à d’autres jeunes via Snapchat. Les faits se seraient produits l’an dernier dans une école en Suisse alémanique, comme le rapporte Tamedia.
Un procès a depuis été engagé contre ces adolescents. L’affaire est désormais traitée par le ministère public des mineurs. Même si les auteurs finissent par être condamnés sur le plan juridique, les victimes risquent d’en subir des conséquences durables, selon les experts. De tels actes laissent en effet des traces psychologiques profondes.
De nombreux cas dans des écoles à l’étranger
Cette réalité devient particulièrement évidente lorsqu’on observe la situation à l’étranger. Au cours des dernières années, de nombreux cas similaires y ont été recensés. En 2024, le New York Times parlait même d’une épidémie, soulignant que les écoles étaient confrontées à de nouveaux défis.
Des experts en matière de maltraitance infantile expliquent dans cet article que ces deepnudes générées par IA ne sont pas seulement humiliantes et néfastes pour la santé mentale, mais peuvent aussi anéantir des opportunités professionnelles.
Les victimes se retrouvent souvent démunies face à la diffusion de ces images. En Espagne, en 2023, des images compromettantes générées par IA ont circulé dans des écoles, touchant plus de 20 jeunes filles. Les mères de certaines victimes ont alors décidé de s'adresser au grand public.
Parmi elles, Miriam Al Adib, gynécologue disposant d’une importante communauté sur les réseaux sociaux. Elle s’est directement adressée aux auteurs:
Des victimes souvent décrédibilisées
Snapchat favorise particulièrement ce type d’agissements. En effet, les images sont supprimées peu après leur visualisation, et avec elles, toute preuve tangible.
Aux Etats-Unis, dans l’Etat de la Louisiane (sud), une jeune fille de 13 ans s’était adressée au directeur de son école, mais, comme les images n’étaient plus visibles sur Snapchat, celui-ci avait mis en doute leur existence, rapporte l’agence de presse AP.
Lorsque la jeune fille a surpris par hasard un camarade montrant l’image à un ami, elle a perdu son sang-froid, l’a agressé et a finalement été transférée pendant dix semaines dans un autre établissement. Ce n’est qu’ensuite que la police a engagé des poursuites contre deux adolescents soupçonnés d’avoir diffusé les images.
Un défi majeur pour les écoles suisses
La présidente de la Faîtière des enseignants suisses (LCH), Dagmar Rösler, s’attendait à ce que de tels cas surviennent aussi en Suisse. Elle a déclaré au Tages-Anzeiger:
Elle s’indigne également que des entreprises mondiales en tirent profit, tandis que les écoles, les parents et les jeunes doivent en assumer les conséquences.
Or, la création ou la diffusion de telles images peut également être punissable, notamment si elle se fait sans le consentement des personnes concernées ou si celles-ci sont âgées de moins de 18 ans, comme l’explique l’avocat Martin Wyss au journal. Seule exception possible: si cela se produit de manière consensuelle, sans contrepartie financière et avec un écart d’âge maximal de trois ans.
Rösler estime que le législateur et la justice ont une responsabilité. Des mesures de protection juridiques claires sont nécessaires. En outre, les élèves doivent être formés de manière systématique à l’utilisation des médias, et les parents doivent avoir accès à davantage d’offres de formation continue. La présidente de la Faîtière des enseignants suisses:
La lutte également contre Grok
Ce n’est pas une tâche aisée. Ces deepfakes générés par IA peuvent être créés relativement facilement et gratuitement. Il est difficile de stopper les fournisseurs de telles plateformes. Pourtant, c’est possible: récemment, l’entreprise d’IA xAI d’Elon Musk a essuyé de vives critiques, car son chatbot IA «Grok» permettait de générer des images sexualisées de mineurs.
L’entreprise a alors annoncé des mesures, mais des critiques continuent de réclamer une réaction plus ferme contre ces fonctionnalités. Fin janvier, il a finalement été révélé que la Commission européenne compétente avait lancé une procédure contre le groupe.