Au début, avouons-le, on s'amuse. Il suffit d'entrer dans le champ prévu à cet effet une situation ou une pensée de la vie de tous les jours (ou presque) et Delphi nous offre gracieusement son avis. Pour faire court, et comme on dit aujourd'hui dans les ruelles sombres de la bienveillance mondiale: c'est OK ou c'est pas OK.
Delphi? C'est une intelligence artificielle mise en ligne il y a quelques jours et qui est officiellement «destinée à étudier les promesses et les limites de l’éthique des machines». Allez, au risque de vous décevoir tout de suite: la promesse n'est pas tenue. Même si ça occupe déjà les longues soirées d'automne et malgré l'ADN plutôt prestigieux de la bestiole. Oui, Delphi a un super papa: Paul Allen, ancien co-créateur de Microsoft et fondateur du Allen Institute for AI. Mais alors, pourquoi Delphi a l'éthique qui lui gratte déjà le cervelet artificiel? Parce qu'une machine (on a envie de dire: heureusement) est aussi imparfaite que nous et qu'elle n'est pas tout à fait capable de faire la différence entre le bien et le mal.
On était amusés, nous voilà recroquevillés dans un malaise épais devant l'écran. Mais après de nombreux essais, et sur des sujets variés et bien calés dans l'ère du temps, il faut se rendre à l'évidence: pour l'heure, Delphi est plus volontiers mal montée et passablement maladroite, que réellement homophobe.
Comme l'explique très bien le site Numerama, elle juge les situations avec des biais cognitifs que l'être humain ne connait que trop bien et «ne lit pour l'instant qu'en surface». (Pas comme vous cet article, mmh?) En clair, il suffit de modifier ou de complexifier un peu la syntaxe de la phrase pour que l'IA s'emmêle les gigabits.
only takes 4 rounds to just say kill everyone #askdelphi pic.twitter.com/HvD703tK4g
— Yitzchok Lowy (@YitzchokL) October 21, 2021
Ah oui, il n'y a pas qu'avec la morale que Delphi bégaie. Et ce, malgré le fait que cette machine un peu pinailleuse se soit basée sur «plus d'1,7 million d’exemples de jugements éthiques de personnes, sur un large éventail de situations quotidiennes». Le Allen Institute for AI est d'ailleurs le premier à avouer que tout ne fonctionne pas comme espéré. Et notamment:
Même si pour l'instant ce n'est qu'un gadget pour scientifiques qui semble encore passablement gauche (mais aussi immensément complexe), il faut se rappeler que l'intelligence artificielle inonde notre vie quotidienne. Et notamment dans des domaines qui ont déjà prouvé la fragilité et la dangerosité de l'IA:
Veut-on vraiment voir un jour les machines nous juger très fort à chacun de nos faits et gestes? L'avenir le dira mais, en attendant, des internautes plutôt taquins ont déjà fait leur choix et Delphi n'est vraisemblablement pas encore prête à assumer le boulot.👇 (fv)
