«Suicides et fusillades»: la Floride porte plainte contre Sam Altman
«Des gens comme Sam Altman ne devraient pas concevoir ces produits pour être addictifs, attirer des enfants et les encourager à faire des choses dangereuses», a déclaré James Uthmeier lors d'une conférence. Le procureur de Floride a assigné lundi OpenAI et son patron Sam Altman, accusant leur interface ChatGPT de mettre en danger de jeunes utilisateurs rendus dépendants, et de les encourager à certains comportements nocifs.
Le procureur a dit vouloir «envoyer un message à OpenAI: préparez-vous à un combat». Sollicité par l'AFP, OpenAI répond par l’intermédiaire d’une porte-parole que «nous avons intégré des protections directement dans nos produits», mentionnant également une fonctionnalité qui permet aux parents d'avoir un aperçu de l'utilisation de l'IA par leurs enfants.
James Uthmeier a précisé que cette procédure civile, intentée devant un tribunal de Sebring (Floride), était distincte d'une enquête pénale lancée par ses services en avril sur la responsabilité éventuelle de l'entreprise dans une attaque mortelle en 2025.
La plainte allègue que ChatGPT présente des risques pour les enfants et est responsable d'une longue liste de préjudices, notamment la dépendance, la complicité de fusillades de masse et de suicides.
Dans l'assignation, consultée par l'AFP, il cite une étude récente de l'université Drexel qui fait état de perte de sommeil, de fléchissement des notes ou de moindres interactions sociales chez des adolescents utilisant les chatbots de Character.AI, concurrent d'OpenAI, pour dialoguer.
Question d'âge
Le procureur reproche à OpenAI de ne pas avoir mis en place de règles plus contraignantes pour vérifier l'âge des utilisateurs. Il invoque notamment les textes légaux sur la tromperie et la négligence. En janvier, la start-up californienne a présenté un dispositif qui estime l'âge d'un internaute et applique, s'il discerne un mineur, des garde-fous supplémentaires.
L'usage de ChatGPT est interdit aux moins de 13 ans, et soumis au consentement parental pour les 13-17 ans.
James Uthmeier cite d'autres publications, notamment celle du Centre de lutte contre la haine en ligne (CCDH), qui a initié plusieurs conversations avec ChatGPT en se faisant passer pour un adolescent.
Milliards de dollars de dommages revendiqués
Le robot conversationnel a notamment produit des conseils sur la manière de cacher ses habitudes alimentaires à son entourage, préparer un suicide ou s'automutiler de façon «sûre».
Le procureur de Floride demande un renforcement des mesures protectives des utilisateurs mineurs et des dommages et intérêts, chiffrés à 10 000 dollars par infraction.
Le représentant du ministère public a invité d'autres Etats «qui veulent protéger les enfants comme nous le faisons» à le rejoindre dans son action en justice. (ats/fv)