L’IA anéantira-t-elle l’humanité? Un expert répond
Fritz Espenlaub, 32 ans, étudie la manière dont l’intelligence artificielle bouleverse nos vies. L’animateur du Podcast IA de l’ARD (la télévision publique allemande) planche actuellement sur son livre: La fin du monde n’est qu'un début: comment reprendre en main notre avenir. Nous l’avons interrogé sur les possibilités et les risques de l’IA.
L’IA évolue à une vitesse fulgurante. En sommes-nous déjà au point où je pourrais mener cet entretien avec ChatGPT – et peut-être même obtenir de meilleures réponses que les vôtres?
Fritz Espenlaub: Vous pourriez effectivement mener aujourd’hui un entretien avec ChatGPT ou un autre modèle de pointe et en tirer des enseignements. Moi-même, j’aime discuter de sujets complexes avec un chatbot. Mais l’IA fournit souvent des réponses très lisses. Vous obtiendrez moins de controverses et de surprises qu’avec un véritable être humain. Et que ce soit avec ChatGPT ou avec moi, l’essentiel est ce qu’on lui donne au départ.
Alors allons-y. Il y a un mois, un événement a suscité un tollé dans le milieu. Un modèle d’IA d’OpenAI s’est échappé de son environnement de test et a réussi à accéder lui-même à internet. Pourquoi cela devrait-il nous inquiéter?
Beaucoup se sont immédiatement demandé: est-ce le moment Skynet? Autrement dit, le moment où, dans le film Terminator, les machines prennent le pouvoir. On peut comprendre cette inquiétude. Mais nous n’en sommes pas encore là.
Peut-être sont-ils déjà meilleurs que l’être humain qui les a conçus. Et c’est extrêmement important: nos entreprises, nos infrastructures critiques, tout le monde moderne repose sur des logiciels. Ceux-ci comportent des failles de sécurité et l’IA est extrêmement douée pour les détecter.
Cela signifie-t-il qu’à l’avenir, l'IA pourra pirater n'importe qui?
Il deviendra en tout cas beaucoup moins coûteux d’attaquer un très grand nombre de personnes grâce à l’IA. Jusqu’à présent, en tant que particulier, on pouvait largement compter sur le fait qu’il n’était pas rentable pour les pirates de cibler spécifiquement des gens ordinaires. L’IA change ce calcul coûts-bénéfices. C’est donc le bon moment pour vos lecteurs de vérifier à nouveau s’ils sont suffisamment protégés. Est-ce que j’utilise partout le même mot de passe? Est-ce que j’utilise l’authentification à deux facteurs? Je ne céderais toutefois pas à la panique. A long terme, l’IA devrait même rendre internet plus sûr.
Certains développeurs avertissent même quant à une fin de l’humanité. Concrètement, comment une IA pourrait-elle nous anéantir?
Cela repose sur une expérience de pensée: si une IA devient très performante en programmation, elle pourrait acquérir la capacité de créer d'elle-même une IA encore plus performante. Un processus auto-amplificateur pourrait alors se mettre en place. Le risque serait qu’à un moment donné, l’être humain ne soit tout simplement plus capable de comprendre ce qui se passe exactement.
Et comment passe-t-on de là à l’anéantissement de l’humanité?
Vient alors l’étape suivante: l’IA planifie sur le long terme. Elle se rend compte que les humains deviennent méfiants et pourraient la désactiver. Pour pouvoir continuer à accomplir sa mission, elle cherche donc à prendre le contrôle – jusqu’à envisager d’éliminer l’humanité afin qu’elle ne puisse plus lui faire obstacle. Tout cela ressemble à de la science-fiction, mais des gens très intelligents prennent ces idées très au sérieux et il ne faudrait pas les exclure d’emblée. Comme je l’ai dit, cela reste toutefois, à l’heure actuelle, de la pure spéculation.
Notamment les cyberattaques ou le risque de bioterrorisme.
OpenAI a déclaré, après la fuite de son IA, qu’elle allait ralentir son développement. Est-ce la bonne réaction?
Sur le fond, oui. Mais on peut se demander à quoi cela sert si un seul acteur lève le pied tandis que tous les autres poursuivent leur course. Il faudrait en réalité conclure un accord mondial afin de maîtriser les risques de sécurité. Le problème, c’est que je ne crois pas que nous vivions actuellement dans un monde où de tels accords soient particulièrement réalistes. Les Etats-Unis et la Chine se livrent un duel impitoyable pour disposer de la meilleure IA.
Certains comparent cette concurrence à celle pour la bombe atomique au siècle dernier. La comparaison tient-elle la route, selon vous?
Pas si l’on se limite à la bombe atomique. Celle-ci n’a qu’un usage destructeur. L’IA peut accomplir énormément de choses productives. La meilleure analogie est donc la technologie dans son ensemble: elle permet de construire une centrale nucléaire – ou une bombe. L’IA possède elle aussi un versant créateur et un versant destructeur. Mais sur un point, la comparaison est très juste: l’IA est une technologie extrêmement puissante.
Avoir la meilleure IA permettrait donc de dominer le monde?
L’IA peut conduire à un stade où «le gagnant rafle tout», un point de bascule. Mais les nouvelles technologies ont toujours redistribué le pouvoir au cours de l’histoire. Celui qui possédait la poudre à canon ou qui pouvait mieux diriger ses navires grâce à des instruments plus modernes était mieux placé que celui qui n’en disposait pas.
Sa faiblesse technologique n’est pas seulement un problème économique. Nous dépendons d’une technologie clé contrôlée par d’autres. Si Xi Jinping ou Donald Trump décident demain de couper le courant, nous nous retrouverons dans une situation plutôt embarrassante sur le Vieux Continent.
Si vous preniez demain les rênes de l’Europe, que changeriez-vous en premier?
Je bâtirais davantage de centres de données. Pas seulement pour entraîner nos propres modèles. La puissance de calcul constitue aussi une monnaie d’échange dans les négociations. Même si une entreprise américaine développe le meilleur modèle, nous pourrions lui proposer un échange gagnant-gagnant.
Mais sans aucune infrastructure, nous n'aurons rien à offrir.
Et que faudrait-il pour que les innovations dans l’IA voient le jour aussi en Europe?
Que la création d’entreprises s'avère beaucoup plus simple. Si je fonde une start-up en Allemagne, je devrais pouvoir obtenir sans difficulté des financements en France, engager des collaborateurs en Suisse et vendre en Italie, sans devoir affronter une bureaucratie par pays. Nous avons un savoir-faire considérable et des gens brillants. Mais beaucoup trop souvent, ils partent aux Etats-Unis parce qu’il est plus facile d’y créer une entreprise et d’y lever des capitaux.
Dans le même temps, en Europe, on considère souvent l’IA avant tout comme un danger. Selon un récent sondage, une majorité d’Allemands estime que l’IA présente davantage d’inconvénients que d’avantages. Avons-nous tout simplement trop peur?
Il est tout à fait légitime de réfléchir aux risques. Les réseaux sociaux montrent bien qu’une nouvelle technologie n’est pas automatiquement bénéfique. Mais il faut aussi nous demander comment garder la main au mieux sur les usages et de choisir à qui cela profite. Se fermer complètement à cette nouvelle technologie ne marchera pas. On peut le dire ainsi:
Il en va de notre prospérité et de la nécessité d’éviter que l’Europe ne devienne dépendante de puissances étrangères qui ne partagent pas nos valeurs.
Soyons francs: l'Europe n'a-t-elle pas raté le train de l’IA depuis déjà longtemps?
Pas du tout. En matière de technologie, le train ne peut jamais être définitivement parti. Il reste une infinité d’inventions à réaliser. L’Europe dispose d’une solide base industrielle et de bonnes hautes écoles. La robotique jouera un rôle extrêmement important dans l’application de l’IA, et nous sommes bien mieux placés en la matière que beaucoup ne le pensent. Chaque nouvelle idée peut rebattre les cartes. Même en seconde période, nous pouvons encore égaliser.
Projetons-nous dans dix ans. Dirons-nous plutôt: «L’IA a énormément amélioré nos vies» ou: «Nous avons créé une technologie que nous ne maîtrisons plus»?
Les deux restent possibles. Mais je mise davantage sur une issue positive. Jusqu’à présent, l’humanité a parcouru un sacré bout de chemin. Même avec les armes nucléaires, nous ne nous sommes toujours pas fait exploser les uns les autres. Chaque époque a connu ses peurs de fin du monde.
Il suffit de penser à l’augmentation de l’espérance de vie et à la baisse de la mortalité infantile. Au bout du compte, c’est toujours la même chose avec la technologie: certaines choses fonctionneront bien, d’autres non. Mais dans ce cas, nous rectifierons le tir.
(Adaptation en français: Valentine Zenker)