Ce collier rempli d'intelligence artificielle inquiète
Il promet d'être votre ami et de vous accompagner partout: un collier dopé à l'intelligence artificielle (IA), objet d'une campagne publicitaire massive pour son lancement en Europe, suscite de multiples interrogations.
«Je serai toujours d'accord pour prendre un café avec toi», «je ne laisserai jamais de vaisselle dans l'évier»: nombreuses sont les affiches faisant la promotion de ce collier blanc dans les stations du métro parisien.
Derrière cette campagne, déjà déclinée dans le métro new-yorkais: la start-up américaine Friend. Elle propose un ami virtuel, alimenté par l'IA conversationnelle.
Vendu aux Etats-Unis depuis octobre 2023, l'objet est disponible à la livraison dans l'Union européenne pour 113 euros.
Ce compagnon virtuel répond ensuite par message sur smartphone à l'aide de l'IA de Google, Gemini.
La journaliste française Charlotte Vautier s'est procuré le collier il y a un an, pour le tester pour sa chaîne YouTube. «Rien que de l'avoir utilisé pendant une heure, c'est déjà assez déroutant parce qu'à la différence d'autres IA, celle-ci est un peu cassante, elle fait des blagues un peu bizarres», raconte-t-elle. Elle ajoute:
Le collier enregistre sans consentement
Mais «il existe de forts soupçons de manquements aux obligations» de respect de la vie privée, selon le député français Jérémie Iordanoff (écologiste), qui invité la Commission nationale de l'informatique et des libertés (Cnil) - le gendarme du numérique en France - à ouvrir une instruction.
Pour fonctionner, l'application de Friend demande en effet de «cocher plusieurs cases pour dire que tu acceptes de donner les droits d'enregistrement des personnes qui t'entourent, sans même leur demander à eux», indique Charlotte Vautier.
Friend est «plus fiable que d'autres chatbots», car les «souvenirs» que génère le collier sont chiffrés, se défend le fondateur franco-américain de la marque, Avi Schiffmann.
Mais, pour la Commission nationale de l'informatique et des libertés, «le dispositif peut entraîner une collecte massive de données - possiblement sensibles: santé, opinion politique, orientation sexuelle».
La Cnil s'interroge aussi «sur le sort des données, leur lieu de stockage, leur sécurisation et sur leur possible réutilisation à des fins d'entraînement du système d'IA». Elle prévoit de contacter Friend pour «examiner sa conformité au RGPD», le règlement européen sur la protection des données personnelles.
La pub suscite de nombreuses réactions
Avi Schiffmann n'a pas souhaité commenter ses échanges avec les autorités françaises.
Affiches arrachées, taguées, dans le métro à New York ou à Paris: une campagne publicitaire, dite de «saturation» selon Avi Schiffmann, a suscité de vives réactions.
«J'ai trouvé qu'en faisant ces campagnes provocatrices dans le métro, surtout lorsque les gens réagissent en les taguant ou les arrachant, ça déclenche une discussion» et «c'est très cool à voir», se félicite le patron de Friend.
Ces actes de vandalisme sont surtout la cristallisation d'une «réaction néo-luddite (rejet du progrès technique, ndlr) généralisée qui prend une forme délinquante», observe le professeur en géopolitique du cyber Fabrice Epelboin.
Quand on rejette l'IA, «c'est plus facile d'attaquer une affiche dans le métro qu'un data center en banlieue éloignée!», souligne-t-il.
Il est encore difficile d'estimer un volume de ventes de ce collier. En octobre, le magazine Fortune évoquait 3000 exemplaires écoulés aux Etats-Unis, tandis qu'Avi Schiffmann s'est réjoui auprès de Cosmopolitan d'avoir «atteint plus de 200 000 utilisateurs», sans préciser s'il s'agissait d'achats du collier.
Avec son objet, Friend espère séduire principalement les jeunes. Avi Schiffmann estime:
«Pour la mienne, c'étaient les réseaux sociaux», poursuit l'entrepreneur âgé de 23 ans. «Et je pense que les compagnons IA marqueront la nouvelle génération alpha», c'est-à-dire celle née après 2010.