Comment ChatGPT menace de nous rendre stupides

Intelligences artificielles: que pourrait-il se passer si on les laisse résoudre tous nos problèmes quotidiens et réfléchir à notre place? Image: Imago / ChatGPT, montage watson

Commentaire

Comment ChatGPT menace de nous rendre stupides

Un chercheur en sécurité informatique décortique l'impact de l'utilisation croissante de l'IA générative. Son analyse donne à réfléchir, ce que l'on fait de moins en moins.

Daniel Schurter

«L'IA nous désapprend à penser et on considère cela comme un progrès»

Mike Kuketz

Des déclarations comme celles-ci captent tout de suite notre attention, surtout lorsqu'il est question de nos capacités de réflexion. Mike Kuketz, chercheur en sécurité informatique, vient de publier un rapport alarmant sur l'impact qu'ont nos habitudes avec les IA sur nos facultés cognitives. Le célèbre chercheur allemand y critique l'IA, et plus précisément l'intelligence artificielle générative.

Il met en garde contre un phénomène qui s'observe dans toutes les couches sociales et tous les groupes d'âge. Mais surtout chez les jeunes:

«Avant, on ouvrait un livre, ou on faisait preuve de bon sens pour répondre à certaines questions. Désormais, on s'en remet par réflexe à une IA. Non pas parce que c'est nécessaire, mais parce que c'est plus pratique.»

Il touche là un point sensible. Alors qu'autrefois, il fallait au moins maîtriser certaines techniques de Google pour trouver ce qu'on voulait lors d'une recherche sur le web, aujourd'hui, ChatGPT et les autres font tout le travail et nous apportent la réponse sur un plateau d'argent.

Et c'est très justement là que les problèmes commencent, souligne Kuketz.

Mais qu'est-ce qui coince?

Jusqu'à il y a peu, l'intelligence artificielle était encore un outil, une aide pratique qui assumait des tâches clairement définies.

Désormais, le chercheur en sécurité informatique constate que:

«On ne considère plus la réflexion comme une activité évidente, mais comme une option. Une option dont on fait de plus en plus l'économie. Et c'est justement là que réside le danger. Car si l'on cesse de penser, on désapprend non seulement à résoudre des problèmes, mais aussi à se poser des questions, à peser le pour et le contre, à se souvenir: bref, à être humain dans sa profondeur intellectuelle.»

Nous sommes ainsi parvenus à un phénomène connu, comme le «marteau de Maslow» ou la «loi de l'instrument». Dit plus simplement: comme on nous a mis le marteau de l'IA dans les mains, tout ressemble soudain à un clou.

Pour Kuketz:

«L'IA n'assume aujourd'hui pas seulement des tâches opérationnelles, mais aussi de plus en plus de décisions cognitives: quelle formulation est la meilleure? Quelle argumentation fera mouche dans un conflit?»

Et où est-ce que ça nous mènera?

Selon Kuketz, les conséquences sont assez dramatiques:

«On n'observe non seulement un appauvrissement intellectuel soudain, mais une disparition insidieuse et progressive de tout jugement personnel. Des propositions automatisées remplacent peu à peu la capacité à s'orienter sur le plan intellectuel et émotionnel, on s'exerce donc à peine, et on transmet encore moins.»

Kuketz cite comme exemple connu la campagne de marketing du Galaxy S25 Ultra. Samsung a commercialisé le smartphone Android avec assistance IA comme «la solution quotidienne pour les petites et les grandes pannes».

«L'idée: plus besoin de réfléchir par vous-même si l'IA le fait à votre place»

Si l'on s'habitue très tôt à confier des «décisions complexes ou même triviales» à l'IA, on oublie de les prendre soi-même, fait remarquer Kuketz. Et cette commodité a un prix.

«On s'abrutit pour des détails, on perd le sens de l'orientation, on s'habitue à un monde dans lequel chaque incertitude est immédiatement "résolue" de l'extérieur.»

Cette diminution de la capacité à résoudre un problème a de quoi inquiéter. Surtout dans un pays comme le nôtre, où la démocratie directe dépend de citoyens critiques et engagés.

Vous vous souvenez de Wall-E, le chef-d'œuvre de Pixar? On y voit un avenir dystopique dans lequel les gens ne font plus rien à part se déplacer sur des chaises longues. Est-ce là notre avenir à tous?

Vidéo: YouTube/PassivelySedentary

Et vous? Qu'en pensez-vous?

Que pensez-vous de l'IA générative? Avez-vous complètement remplacé Google par ChatGPT? Laissez-vous cette technologie répondre à toutes vos questions du quotidien? Dites-nous tout.

Les intelligences artificielles génératives comme ChatGPT mènent-elles à l'abrutissement de la société?

Au contraire, l'IA décuple nos capacités et nous rend plus intelligents.L'IA aide à gérer les tracas du quotidien, et nous permet donc de nous focaliser sur ce qu'il y a de plus important.A moins d'une utilisation excessive, l'IA ne risque pas de remplacer notre cerveau ou d'impacter nos capacités.Les IAs ont un impact négatif, mais seulement sur une petite portion de leurs utilisateurs.Les IAs ont déjà un impact grave sur une partie substantielle de la population.C'est foutu, on va tous devenir aussi crétins que dans le film «Idiocracy».Je ne sais pas quoi répondre à ce sondage, laissez-moi demander à ChatGPT, je reviens!

Voter

Au total, 210 personnes ont participé à ce sondage.

(Traduit et adapté par Valentine Zenker)