Berne veut stopper les faux nus générés par l’IA
Les hypertrucages de l'IA devraient être mieux contrôlés. Le Conseil fédéral soutient une motion de Raphaël Mahaim (Vert-e-s/VD) visant les fournisseurs d'applications d'intelligence artificielle générative. Ceux-ci devraient se soumettre à des évaluations des risques et des préjudices liés à la création de contenus deepfake à caractère sexuel.
Selon le texte de la motion, les fournisseurs devraient en outre prendre des mesures de protection lorsque leurs applications sont capables de générer ce type de contenu. Par ailleurs, le conseiller national écologiste préconise la création d'une autorité de contrôle chargée de vérifier les évaluations des risques et les mesures prises et, le cas échéant, de sanctionner les fournisseurs.
Pourquoi cette démarche?
A l'appui de sa motion, le député vaudois cite l'outil d'IA «Grok», intégré à la plateforme «X». Celle-ci a «manipulé des images de femmes et d’enfants de manière à les dénuder et à leur faire prendre des poses indécentes».
Il ne faut pas prendre à la légère ces atteintes évidentes aux droits de la personnalité des intéressés, souligne le Vaudois. Les hypertrucages de ce genre constituent, surtout pour les enfants concernés, des violences sexuelles graves aux conséquences potentiellement lourdes et durables.
Quiconque met au point et à la disposition du public les outils techniques permettant ces atteintes à la personnalité doit être obligé à en évaluer précisément les risques et à y intégrer les mécanismes de protection nécessaires. Poursuivre pénalement ces atteintes après coup ne suffit pas.
«Les instruments de l’IA générative permettent de créer des hypertrucages sexualisés en grand nombre et de les diffuser sur toute la planète à une vitesse bien plus grande que celle des procédures pénales, sans parler des difficultés à les supprimer», souligne encore Mahaim.
Un sujet déjà abordé
Ce n’est pas la première fois que le Parlement se prononce sur des aspects tels que ceux évoqués par Raphaël Mahaim. En mars dernier, les Chambres ont adopté une motion du conseiller aux Etats Fabio Regazzi (Centre/TI) demandant au Conseil fédéral d’élaborer une stratégie contre l’utilisation abusive d’images, en accordant une attention particulière à la protection des femmes, des jeunes et des enfants.
Selon le Tessinois, on fait actuellement trop peu contre la production et l'utilisation d'images fausses, notamment à caractère pédopornographique, le tout facilité par l'intelligence artificielle.
Les fausses photos de nus ou les vidéos pornographiques deepfake sont utilisées pour extorquer de l'argent ou obtenir de véritables images sexuellement explicites, selon le député tessinois, qui précise que les victimes sont souvent des mineurs. C'est pourquoi il est nécessaire d'élaborer une approche globale pour la protection contre les violations massives de la personnalité et la violence pédocriminelle sur Internet par le biais d'images manipulées. (jah/ats)