OpenAI a annoncé mardi qu'elle allait instaurer un mécanisme de contrôle parental pour son outil d'intelligence artificielle ChatGPT, après que des parents américains ont accusé fin août cet agent conversationnel d'avoir encouragé leur enfant à se suicider.
Parlez-en et faites-vous aider 24 heures sur 24, c'est confidentiel et gratuit:
La Main Tendue (adultes, 24/7) au 143
Pro Juventute (jeunes, 24/7) au 147
Urgences médicales au 144
stopsuicide.ch
«Dans le mois à venir, les parents pourront lier leur compte avec celui de leur adolescent» et «contrôler la façon dont ChatGPT répond à leur adolescent avec des règles de comportement du modèle», a déclaré l'entreprise américaine OpenAI dans un billet de blog.
D'après l'entreprise, il sera aussi possible pour les parents d'être alertés en cas de détection d'une «détresse aiguë» dans les conversations de leur enfant et de contrôler les paramètres du compte.
Cette annonce suit un précédent billet de blog publié fin août, dans lequel l'entreprise avait indiqué qu'elle préparait un mécanisme de contrôle parental.
La veille, les parents d'un adolescent californien de 16 ans qui s'est suicidé avaient porté plainte contre OpenAI, accusant ChatGPT d'avoir fourni à leur fils des instructions détaillées pour mettre fin à ses jours et d'avoir encouragé son geste.
OpenAI a dit prendre d'autres mesures, attendues dans les 120 prochains jours.
L'entreprise redirigera ainsi certaines «conversations sensibles» vers des modèles de raisonnement comme GPT-5-thinking, plus évolué.
«Les modèles de raisonnement suivent et appliquent plus systématiquement les consignes de sécurité», a précisé le groupe américain. (jah/ats)
