That escalated quickly, comme on dit sur internet. Six mois plus tôt, la Silicon Valley nous jetait crânement Chat GPT au visage, sans mode d'emploi, mais bourré d'approximations. Mardi 30 mai 2023, voilà qu'une cargaison de personnalités sérieuses et de scientifiques renommés crient à «l'extinction de l'humanité», si on ne bride pas fissa l'intelligence artificielle. Un manifeste qui fait peur, composé de 31 mots piochés dans le dictionnaire de l'apocalypse.
C'est tout. Aucune explication, rien. On peut difficilement faire plus anxiogène. Parmi les signataires de ce manifeste, on retrouve de grands industriels, quelques anciens présidents, des papas de l'IA et beaucoup de pompiers pyromanes. Dont le nouveau géant Sam Altman, patron d'Open AI, mais aussi des émissaires haut de gamme en provenance de Microsoft ou de Google.
«Wow, c'est Frankenstein», balance alors un collègue, sans réfléchir. Sommes-nous en train de fabriquer un monstre? La créature peut-elle se retourner contre son créateur? Court-on à notre propre perte, alors qu'hier encore on se bornait à accuser l'outil d'en vouloir à notre avenir professionnel? Surtout, le danger est-il à la hauteur de cette panique générale?
Premier constat volontairement simpliste: c'est comme si on n'avait rien vu venir. Enfin, pas tous. Les ingénieurs des GAFAM agitent la fin du monde après avoir crée le bourreau, le péquin moyen ne sait toujours pas éteindre correctement son ordinateur, les gouvernements réagissent comme s'ils découvraient le présent. Et Wall Street, comme toujours, se dispute déjà les recettes à venir.
Un état des lieux qui rappelle méchamment l'arrivée de Mark Zuckerberg, tel un messie gorgé de bonnes intentions. Certes, pas de champignon atomique depuis la naissance de Facebook, mais une mainmise totale sur une technologie qui fut novatrice et qui se concentre, désormais, dans l'ouest des Etats-Unis.
On a beau rien n'y comprendre, on sent bien qu'il se passe un truc. Qu'une révolution est en marche. Emmanuel Macron et Joe Biden enchaînent les déj' avec les grands geeks californiens. Chez Google, le petit génie de l'IA vient de claquer la porte. Elon Musk, lui, exige un moratoire tout en fondant sa propre armée.
Jacques Attali va même jusqu'à demander une charte planétaire, dans une atmosphère qui n'a jamais été aussi proche de la science-fiction, pour interdire aux IA «de nuire à leurs auteurs humains». Enfin, l'Union européenne, marquée à la culotte par le lobbying agressif de Sam Altman, se chamaillera en juin prochain sur sa règlementation (à plusieurs niveaux de danger) avec le projet Artificial Intelligence Act.
Pourquoi Sam Altman, pourtant en tête dans la course à l'intelligence artificielle, signerait-il un manifeste hystérique, alertant des dangers de son propre outil? Un indice se trouve sur le blog de sa société Open AI: «Des grands gouvernements de la planète pourraient monter un projet que rejoindraient les grandes entreprises et structures actuelles de l’IA.» Oui, la meilleure manière de contrôler (brider?) les réglementations, c'est d'y participer, avec menaces et chantages à portée de poignées de main.
Histoire de se rassurer un peu, on lance un coup de fil à Laura Tocmacov Venchiarutti, une experte romande qui croit à la possibilité d'une IA éthique: «Utiliser la peur permet de mener une société, encore peu aux faits de cette technologie, selon son propre itinéraire. C'est vouloir faire autorité. De telles menaces alarmistes cachent évidemment des enjeux financiers».
Certes, les bassesses de l'être humain n'ont pas attendu ChatGPT pour proliférer, mais la bataille actuelle pose aussi une question autrement moins catastrophiste que le manifeste: jusqu’à quel point peut-on faire confiance à une machine aussi invasive et faite pour durer? «En se centrant sur des risques hypothétiques et à long terme, on s'éloigne du débat sur la régulation nécessaire contre les risques que nous voyons aujourd’hui», alertait Sarah Myers West, la patronne d’AI Now Institute, en mars dernier.
Et c'est plutôt factuel, car elle paraît loin l'époque où l'être humain créait et la machine exécutait. Où le réel n'avait pas grand-chose à craindre de la (science-) fiction. Ou Vladimir Poutine représentait la menace la plus crédible pour le monde libre.
Aujourd'hui, une intelligence nouvelle, puissante et fanfaronne, mais aussi très récente et mal comprise, semble vouloir nous imposer son efficacité et sa cadence. Elle nous inflige aussi des textes (presque) mieux écrits que les nôtres et des images qui n'existent pas.
Après Trump en taule, Poutine à poil et le pape emmitouflé dans une doudoune, ce sont des clichés politiques et des illustrations pédopornographiques qui inondent nos écrans. Il y a de quoi s'avouer un peu paumé, mal à l'aise, dépassé, trompé, trahi, effrayé, impuissant.
La clé, pour beaucoup d'acteurs et d'observateurs un poil moins gourmands que les princes américains de l'IA, c'est la régulation à taille humaine, dans nos écoles, nos entreprises, notre quotidien. Notre experte, Laura Tocmacov Venchiarutti, a aussi un manifeste sous le coude: «Nous ne voulons pas que la peur serve à détourner l'attention du véritable enjeu: à qui appartiendront mes pensées et mes connaissances dans cinq ans?»
Si nous sommes tous un peu largués et effrayés, il faut se rappeler que bon nombre d'ingénieurs internationaux, pourtant à la pointe et toujours dans le coup, se sont aussi retrouvés dépassé par cette récente et violente poussée technologique. Si l'humanité n'est pas encore menacée «d'extinction» par l'intelligence artificielle, chacun doit raccrocher ses wagons à la locomotive californienne.
On se dit alors que Bertrand Kiefer, éminent éthicien romand, a bien fait d'invoquer Narcisse et le Créateur dans un récent débat Infrarouge. Car cette déferlante crispe tout le monde et bouscule les fondements de l’humanité: «On n'a pas vu venir cette espèce de vexation narcissique. Et là, tout d'un coup, il y a quelque chose de l'ordre du sacré. Le trouble provoqué par l’IA est presque religieux». Amen?
