Google a ajouté une nouvelle fonction à son moteur de recherche aux Etats-Unis. Lors de recherches effectuées sur le moteur de recherche, ce dernier peut désormais proposer des résumés générés par une intelligence artificielle (IA). Ainsi, en alternative aux résultats de recherche classiques, les utilisateurs voient directement sur la page de Google des résumés créés à l'aide de l'intelligence artificielle générative.
Ces textes courts, que Google appelle «AI Overview», devraient fournir une réponse rapide aux questions des utilisateurs au lieu de leur présenter une liste de liens web. Ce qui semble pratique en théorie se révèle être une véritable fausse bonne idée qui pourrait nuire durablement à la réputation des recherches Google.
L'IA générative ne peut pas (suffisamment) distinguer les informations sérieuses des plaisanteries, satires et autres fake news. Depuis plusieurs jours, des erreurs gênantes, voire inquiétantes, de l'IA Overview font donc le tour du web – et Google peine à corriger manuellement les résumés erronés.
Le cauchemar pour les relations publiques du géant américain a commencé la semaine dernière, lorsque certaines réponses fallacieuses de l'IA sont devenues virales. AI Overview a par exemple recommandé de fixer le fromage sur une pizza avec de la colle non toxique.
Pour que le fromage adhère à une pizza, on peut aussi «ajouter environ 1/8 de tasse de colle non toxique à la sauce à pizza», a affirmé Google. En réalité, l'intelligence artificielle s'est basée sur sur un commentaire humoristique vieux de onze ans sur Reddit de l'utilisateur «Fucksmith».
Et dès lors, c'est la débandade sur les réseaux sociaux, qui s'en donnent à coeur joie, sans surprise.
Depuis, la toile est inondée de nouvelles erreurs de l'IA de Google. Comme celle ci-dessous, qui recommande aux femmes enceintes de «fumer deux à trois cigarettes par jour.»
Notons toutefois qu'il est difficile de vérifier l'authenticité de tous ces exemples. Le géant américain indique supprimer continuellement les réponses erronées de l'IA ou les corrige.
La cerise sur le gâteau est certainement «Coconut» (noix de coco) que Google a repris du site de questions-réponses Quora – manifestement sans en saisir l'humour.
Autre gros problème ici, lorsqu'il est demandé à l'IA de Google si laisser son chien dans une voiture au soleil est une bonne idée. Question à laquelle il répond tout simplement que oui.
Mais là aussi, il y a un couac. L'IA semble avoir tiré sa réponse de la vieille chanson parodique des Beatles It's Okay To Leave Your Dog In A Hot Car sur Youtube. Rappelons que laisser un chien dans une voiture surchauffée est passible d'amende et peut lui être fatal.
Ici, l'IA a simplement copié la réponse d'un article du site web satirique The Onion. On y lisait que les géologues recommandaient de manger un petit caillou par jour.
La réponse semble provenir de cet article humoristique: «Mario Kart Characters Ranked in Terms of Queerness».
I didn’t believe it either until I saw him in Dubai pic.twitter.com/mznkTQZ6FS
— Cyber_Fury.exe (@SartorialCyber) May 26, 2024
Pour cette réponse clairement erronée, Google cite également Reddit comme source. En effet, le moteur de recherche a remarqué ces dernières années que de nombreuses personnes ajoutent le mot «Reddit» à leurs requêtes de recherche, car cela fournit souvent de bonnes réponses. Google paie donc Reddit pour pouvoir exploiter les contenus générés par les utilisateurs à des fins d'IA. Le problème est qu'un être humain est souvent capable de faire la différence entre les contributions sérieuses et celles qui sont amusantes, mais que l'IA de la recherche Google gobe tout qui provient de Reddit.
En d'autres termes, les liens qui mènent à Reddit sont souvent utiles, mais les résumés des forums Reddit par l'IA le sont moins.
Une porte-parole de Google a déclaré au site spécialisé en tech The Verge que les erreurs étaient «généralement dues à des demandes très inhabituelles et ne correspondaient pas à l'expérience de la plupart des utilisateurs». Ces «exemples isolés» sont utilisés pour améliorer le produit, a-t-elle ajouté.
Il ne reste plus qu'à espérer que Google profite de ces mois pour peaufiner son AI...
Traduit et adapté de l'allemand par Léa Krejci
