Google veut croire à une utopie: le fait que l'intelligence artificielle peut rapprocher les gens, en aidant à régler leurs conflits. A travers son département d'IA, DeepMind, la firme a lancé un outil de médiation nommé la «machine de Habermas», en référence au philosophe et sociologue allemand de renommée mondiale, Jürgen Habermas.
Mais cet outil utilisant l'IA a lui-même provoqué des disputes. Google n'a en effet jamais demandé à l'intellectuel de 95 ans s'il pouvait utiliser son nom, pour cet outil qui s'inspire de sa théorie de l'espace public. Et c'est par un journaliste allemand, Matthias Pfeffer, que le philosophe a été informé de cette affaire, lors d'un échange d'emails.
A la demande d'Habermas, rapportait la semaine dernière le Süddeutsche Zeitung, le journaliste a transmis cette correspondance au département IA de Google, lui signifiant son refus d'être associé à ce projet.
Jürgen Habermas et Google sont finalement parvenus à un accord. La firme renonce à utiliser son nom, tout en assurant qu'il a été choisi par respect et regrette profondément qu'Habermas ne soit pas d'accord.
Le projet semblait pourtant prometteur. Dans la machine de Habermas, qui ne peut désormais plus porter ce nom, l'IA évite la confrontation directe entre deux partis, en jouant le rôle de médiateur.
Selon une étude publiée dans la revue spécialisée Science, en arbitrant les discussions entre deux groupes aux opinions divergentes, la machine avait obtenu de meilleurs résultats qu'avec des humains. Le consensus proposé par l'IA avait été accepté par 56% des participants, contre seulement 44% pour celle des médiateurs humains.
DeepMind est désormais bien connue. Elle avait fait la une des journaux en 2015, lorsque cette start-up britannique, rachetée par Google peu après sa création, avait battu le meilleur joueur de Go au monde. Une prouesse que de nombreux experts jugeaient impossible jusqu'alors, car le jeu de société chinois offre beaucoup plus de possibilités que les échecs.
L'année dernière, le fondateur de DeepMind, Demis Hassabis, a reçu le prix Nobel de chimie avec deux chercheurs spécialisés dans les protéines. Son intelligence artificielle AlphaFold a réussi à prédire avec précision la structure de protéines complexes dans un espace tridimensionnel, ce qui est essentiel pour la recherche sur les maladies et le développement de nouveaux médicaments.
Ce programme qui a résolu «l'un des plus grands mystères biologiques», selon Der Spiegel, peut-il également résoudre l'un des plus grands problèmes de l'humanité? Pour Habermas, il est clairement impossible de déléguer le processus de résolution des conflits à une technologie. Comme l'écrit le Süddeutsche Zeitung, dans l'échange de courriels, Habermas explique que «chaque participant au débat se voit confier la tâche exigeante d'adopter de manière sensible le point de vue de l'autre».
Dans sa «théorie de l'agir communicationnel», le philosophie décrit les conditions idéales d'un débat dans lequel tous les participants seraient égaux, et où le meilleur argument s'imposerait toujours par sa force de persuasion, rationnelle et sans pression extérieure. En d'autres termes, c'est la «contrainte sans contrainte du meilleur argument» qui prévaut.
Dans le cas qui nous intéresse, on ignore cependant si Google et Habermas ont eu recourt à DeepMind pour régler leur différent.
Traduit de l'allemand par Joel Espi
