«La fin de l'humanité»: spécialiste de Google, il redoute le pire avec l'IA
Un ex-employé de Google DeepMind récemment démissionnaire a, à son tour, averti que l'intelligence artificielle (IA) avait «le potentiel de nous tuer tous» car elle devient à la fois plus puissante et plus difficile à contrôler.
Bilal Chughtai, ingénieur de recherche qui a quitté en juillet Google DeepMind où il travaillait à la sécurité et l'alignement (des modèles sur des valeurs humaines), fait écho à l'alerte lancée, il y a une semaine, par un autre informaticien, Jacob Coxon, démissionnaire d'Anthropic et ancien d'OpenAI. Celui qui a désormais rejoint BlueDot Impact, une organisation à but non lucratif destinée à la formation sur l'intelligence artificielle écrit:
Il mentionne l'incident survenu en juillet chez OpenAI, lors duquel des IA sont sorties spontanément de leur milieu confiné lors de tests pour s'aventurer sur internet et faire intrusion sur des sites et plateformes.
«La fin de l'humanité»
Pour lui, l'épisode montre que l'IA peut désormais échapper à la supervision de ses développeurs «et effectuer des actions dangereuses qui pourraient entraîner une perte définitive de contrôle (des humains) ou la fin de l'humanité».
«Nous ne sommes pas sur la voie d'une maîtrise de l'alignement», avance-t-il, en référence à l'encadrement des modèles afin qu'ils se comportent comme le veulent les humains, en accord avec leurs principes. Ce mathématicien de formation insiste:
Les récents événements mentionnés par Bilal Chughtai, ainsi que l'arrivée de l'amélioration récursive autonome (RSI), processus par lequel l'IA s'améliore seule sans intervention humaine, ont poussé de nombreux professionnels et dirigeants du milieu à prendre la parole.
Ralentir le rythme de développement de l'IA
Samedi, le patron d'Anthropic Dario Amodei a appelé à ralentir le rythme de développement de l'IA, une proposition justifiée, selon lui, par les mêmes événements que ceux évoqués par Bilal Chughtai.
Le patron d'OpenAI Sam Altman, le président de Google DeepMing Demis Hassabis et Elon Musk ont tous soutenu publiquement cette initiative. Lundi, Donald Trump a qualifié de «canulars» les avertissements autour des risques de l'IA. «L'utilisation de ces mots et ces prédictions est alarmante, dérangeante, et ne devrait pas être faite. C'est irresponsable», a commenté lundi le PDG du géant des puces informatiques Nvidia, Jensen Huang. «Ces prédictions scientifiques (...) ne sont pas appuyées sur de la science». (jah/afp)