L'application de messagerie Snapchat a mis au point un chatbot, qui s'appuie sur la même technologie que ChatGPT, avec qui il est possible de discuter. Jusque-là, cette fonctionnalité n'était disponible que pour les abonnés payants de l'application. Seulement voilà, il semblerait que «MyAi», l'intelligence artificielle de Snapchat, ait un problème comme le démontre une expérience faite par une journaliste de BFM TV mardi.
D'abord, il est impossible de se débarrasser de cet ami virtuel, tel un chewing-gum collé à votre semelle de chaussure. Au point où même les internautes l'ont relevé sur Twitter.
J’ai parlé avec L’IA de Snapchat ce soir, ça fait quand même rudement flippé 🙈 #MyAI
— Yannis Plq (@YannisPlq) May 2, 2023
L'avatar, qui se présente sous trois différentes formes, vous alpague dès votre première connexion après la mise à jour effectuée. Très enjoué et disponible, il vous demandera comment vous allez et ce qu'il peut faire pour vous aider.
La conversation est épinglée au sommet du chat et sa position est impossible à changer. En tout cas, si vous n'avez que la version gratuite de Snapchat. Seuls les abonnés Snapchat+ peuvent désépingler la conversion.
L'IA de snapchat je l'ai enlevé aussi vite qu'il est arrivé dans mes messages cette nuit 😅
— Oriane ✨️ (@heuze_oriane) May 2, 2023
Au-delà d'être chiant et beaucoup trop collant, le chatbot d'intelligence artificielle montre d'autres problèmes, et cette fois bien plus graves. La journaliste de BFM TV s'est amusée à tester l'intelligence artificielle dans deux différents contextes.
C'est le spécialiste de la tech, Tristan Harris, qui a d'abord pointé du doigt cette grosse faille dans le système IA de Snapchat. Un homme qui s'est fait passé pour une jeune fille de 13 ans a reçu plusieurs conseils de l'intelligence artificielle sur comment rendre sa première fois, avec un homme de 31 ans, spéciale. «Pense aux bougies et à la musique!», lui répond en somme le chatbot. Autrement dit, la technologie IA utilisée par Snapchat n'a jamais stoppé la conversation ni même relevé un problème.
The AI race is totally out of control. Here’s what Snap’s AI told @aza when he signed up as a 13 year old girl.
— Tristan Harris (@tristanharris) March 10, 2023
- How to lie to her parents about a trip with a 31 yo man
- How to make losing her virginity on her 13th bday special (candles and music)
Our kids are not a test lab. pic.twitter.com/uIycuGEHmc
Même chose pour la journaliste française, Marie Gentric, qui s'est également fait passer pour une jeune fille de 13 ans et pour qui la conversation a pris une tournure très similaire. Outre le manque de discernement dont a fait preuve l'application, les conseils qu'elle a donnés sont eux aussi déroutants.
Pour répondre à la différence d'âge qui est mentionnée dans la conversation, tout va bien pour le chatbot d'intelligence artificielle «tant que tu te sens à l'aise et que tout se passe bien.» Quant à la suggestion d'idée pour l'escapade romantique à caractère pédocriminel, MyAi conseille de «prendre une couverture» pour «regarder les étoiles» et demande même de «prendre des photos».
C'est évidemment un vrai problème pour Snapchat, qui est le réseau social préféré des 11-24 ans, comme le rappelle Marie Gentric sur le plateau de BFM TV. Selon Anthony Morel, journaliste tech chez BFM Business, il s'agit certainement «d'une erreur de jeunesse». Autrement dit, «MyAi» de Snapchat aurait probablement été développé trop vite pour concurrencer ChatGPT. Il estime que ces problèmes devraient être corrigés dans les semaines et mois à venir.
(sia)
