On dirait un scénario tout droit tiré d'un film érotique sordide des années 80: une simple pression sur un bouton et tous les vêtements disparaissent. Et pourtant, c'est une réalité depuis longtemps. Les applications et sites du type Nudify permettent, grâce à l'intelligence artificielle (IA), de transformer n'importe quel portrait inoffensif en photo dénudées. Et les résultats sont d'un réalisme effrayant.
C'est avec de tels slogans que plusieurs fournisseurs se sont fait connaître, de manière très crue, sur les réseaux sociaux. Si une certaine autorégulation a réduit l'impact de ces publicités, le problème n'est pas pour autant résolu. Il existe encore des dizaines de sites et d'applications qui proposent de générer de photos de ce genre en un clic.
Une large alliance au Parlement tente à présent de faire bloc et de mettre un terme à ce contenu généré par l'IA. Raphaël Mahaim (Verts/VD) et Nina Fehr Düsel (UDC/ZH) ont déposé des interventions identiques visant à limiter la diffusion des applications dégradantes du type Nudify. Ils ont trouvé des soutiens dans tous les partis.
Fin septembre, le Vaudois Raphaël Mahaim expliquait à 24 Heures ses préoccupations concernant les deep nudes:
Concrètement, l'élu romand et son acolyte UDC souhaitent interdire ou rendre techniquement impossible «la promotion, la vente ou la mise à disposition d'applications et de services numériques» qui génèrent des photos denudées au moyen de l'IA. Les motionnaires s'en prennent ainsi directement aux créateurs de tels contenus. Nina Fehr Düsel explique que l'objectif est de prévenir d'éventuels abus.
Une loi existe déjà. En effet, quiconque génère aujourd'hui une photo nue d'une autre personne et la partage est punissable. La diffusion de telles photos est «extrêmement douloureuse» pour les victimes. Une fois qu'une photo circule – qu'elle soit authentique ou non – la situation n'est plus guère contrôlable, et condamner l'auteur n'est pas d'une grande aide.
Pour l'UDC Nina Fehr Düsel, il s'agit de «donner un signal» contre les aspects plus dangereux de l'intelligence artificielle. Malgré «de nombreux avantages et des applications utiles», son utilisation s'accompagne de nombreuses possibilités d'abus. La conseillère nationale zurichoise est réaliste et sait que la technique progresse rapidement et que le cadre juridique est toujours un peu à la traîne. Elle espère toutefois trouver ici une base qui empêchera, ou du moins limitera, les futurs abus avec d'autres moyens techniques.
Elle a elle-même remarqué des publicités pour des applications comme Nudify sur le compte de ses enfants. «C'est inacceptable», déplore la juriste. Fort heureusement, il existerait aujourd'hui des possibilités d'interdire de manière ciblée ce type de publicité et de veiller à ce que les sites qui proposent ce type de contenu soient rapidement retirés de la circulation.
Les enfants et les adolescents sont particulièrement concernés par les abus commis par de telles applications, explique Regula Bernhard Hug, responsable de l'Association Suisse pour la Protection de l'Enfant. L'organisation gère également le service d'alerte en ligne clickandstop.ch, sur lequel on peut signaler du matériel pédocriminel et obtenir des renseignements et des conseils. Là aussi, les responsables sont de plus en plus confrontés à du matériel généré artificiellement.
Regula Bernhard Hug a connaissance de nombreux cas en Suisse où des jeunes ont été victimes de chantage avec de telles photos créées par IA. Les auteurs se procurent des photos des victimes sur les réseaux sociaux, génèrent de faux nus et les utilisent pour tenter d'extorquer de l'argent. Ou bien ils tentent d'extorquer du matériel authentique à l'aide du matériel factice.
Dans les deux cas, les jeunes sont souvent touchés à une période fragile, en pleine puberté.
Les jeunes des deux sexes sont concernés. L'experte connaît aussi des cas où l'IA a été utilisée pour générer des photos de nus artificiels, voire des vidéos pédocriminelles de jeunes enfants.
Regula Bernhard Hug salue le fait que les politiques passent à l'action. Néamoins, elle recommande de laisser le moins possible d'images reconnaissables d'enfants et d'adolescents sur les réseaux sociaux. Les photos de face sont particulièrement problématiques, dit-elle, car de telles images se prêteraient le mieux à être traitées avec de telles applications comme Nudify ou d'autres outils. Elle appelle donc les parents à bien choisir ce qu'ils partagent.
Ils arrivent aussi que ces derniers se fassent piéger. Récemment, par exemple, un faux profil et des photos de nus générés par de l'IA ont été utilisés pour faire croire à un père que sa fille se prostituait. Les auteurs exigeaient de l'argent et menaçaient de publier les photos s'il refusait de payer. Des bandes entières se sont spécialisées dans ce genre de chantage. Regula Bernhard Hug estime qu'il existe un grand nombre de cas non déclarés:
Traduit et adapté de l'allemand par Léa Krejci
