«L'IA est l’un des plus grands tournants de l’Histoire de l’humanité»
L’intelligence artificielle nous fait-elle prendre conscience que les capacités humaines ne sont peut-être pas aussi uniques que nous l’avons longtemps cru?
Nick Bostrom: Oui. Je pense que beaucoup de personnes fondent leur estime d’elles-mêmes sur l’idée qu’elles apportent une contribution ou qu’elles prennent soin des autres. Elles subviennent aux besoins de leur famille ou possèdent des compétences particulières qui leur permettent d’être utiles à la société. Si, un jour, l’IA nous dépasse dans tous les domaines, notre capacité en la matière disparaîtra.
Que représente cette évolution à vos yeux?
Elle pourrait constituer l’un des plus grands tournants de toute l’histoire de l’humanité, peut-être même le plus grand.
Pourquoi?
On assiste au passage d’une intelligence humaine à une intelligence artificielle. Si tout se déroule comme prévu, les générations futures pourraient en tirer profit pendant des milliers d’années.
Nous en voyons déjà les premiers effets. L’IA est capable de rédiger des textes, de traiter des informations et d’accomplir des tâches qui exigeaient autrefois des compétences spécifiquement humaines. Comment percevez-vous cela?
A la fois avec enthousiasme et inquiétude. Cette transition pourrait mal tourner à de nombreux égards. Dans mes travaux, j’ai tenté d’analyser certains des risques auxquels on sera confrontés. Suivre tout ce qui se passe actuellement est devenu un travail à temps plein, ou presque. Les aspects à prendre en compte sont extrêmement nombreux.
Dans quels domaines faut-il agir en priorité?
L’un des principaux défis est celui de la sécurité de l’intelligence artificielle, ce que l’on appelle le problème de l’«alignment».
Le conflit opposerait donc l’humain à la machine. Cela ressemble à de la science-fiction ou à L’Apprenti sorcier de Goethe. Mais ce danger est-il vraiment crédible?
Il est largement reconnu aujourd'hui. Les principaux laboratoires spécialisés mènent des recherches pour développer des méthodes évolutives. Celles-ci permettraient d’aligner les systèmes d’IA sur les valeurs humaines. Mais le problème reste loin d’être résolu et le risque demeure considérable.
Et ce n’est pas le seul danger.
Non. Il faut aussi empêcher que des humains utilisent l’IA pour nuire à d’autres. L’intelligence artificielle peut servir à développer des armes autonomes, des cyberarmes ou des systèmes de surveillance totalitaires. On doit y recourir pour aider plutôt que pour tuer ou opprimer. On doit également veiller à ce que chacun puisse bénéficier de cette avancée. Si les retombées économiques sont considérables, elles devraient profiter au plus grand nombre. Enfin, il faut empêcher la manipulation des citoyens par de la propagande générée par l’IA.
Nos sociétés et nos responsables politiques sont-ils suffisamment préparés?
Tout dépend des attentes que l’on a.
C'est-à-dire?
D’une certaine façon, les développements actuels sont plus positifs qu’on aurait pu le craindre. On dispose déjà de systèmes qui atteignent un niveau proche de celui des humains, communiquent avec un langage très naturel et comprennent nos concepts.
Il est plus facile de prendre au sérieux la perspective d’une superintelligence lorsque les systèmes d’IA deviennent plus performants d’année en année. Imaginons un autre scénario: celui d'une découverte scientifique soudaine conduisant, en très peu de temps, à l’apparition d’une superintelligence. On aurait alors disposé de beaucoup moins de temps pour se préparer et il aurait été bien plus difficile d’attirer l’attention sur le problème de l’«alignment».
Et du côté de la politique?
Le monde n’est certes pas particulièrement pacifique ni harmonieux, mais il n’a pas non plus atteint son pire niveau. Comparée aux périodes des deux guerres mondiales ou de la guerre froide, la situation est plus favorable au développement d’une superintelligence. Il faudra toutefois un cadre réglementaire en constante évolution. Si des connaissances dangereuses deviennent accessibles à tous, on devra renforcer les barrières de protection, tant physiques qu’institutionnelles. Il est grand temps d’y réfléchir.
L’intelligence artificielle représente-t-elle une menace pour la démocratie?
Elle comporte un risque de concentration du pouvoir. Si un petit nombre d’acteurs contrôle les modèles d’IA les plus performants, ils pourraient influencer l’opinion de milliards de personnes. Ces systèmes seront de plus en plus intégrés à notre quotidien. Les gens dialogueront avec eux, leur feront confiance et pourraient être subtilement orientés dans certaines directions. Dans le même temps, l’IA peut aussi aider les citoyens à prendre des décisions mieux informées.
Le risque de désinformation pourrait néanmoins s’aggraver, vous l’avez aussi évoqué.
La manipulation de masse a toujours existé. La plupart des électeurs ne passent pas des années à examiner en détail tous les arguments en faveur ou contre les programmes politiques avant de les comparer rationnellement.
Quel rôle devrait jouer l'IA au quotidien et dans des professions comme le journalisme, la médecine ou la politique?
Les systèmes d’IA sont désormais extrêmement utiles. Je ne recommanderais toutefois pas de les utiliser pour rédiger entièrement des textes. Ils sont souvent produits très rapidement. Et malgré une parfaite fluidité sur le plan linguistique, ils finissent par paraître impersonnels et interchangeables. Mieux vaut que les textes conservent leurs aspérités et une perspective humaine clairement identifiable. En revanche, pour la recherche, la vérification des faits et la réflexion critique, l’IA peut vraiment nous aider. Dans mon propre travail, je l'emploie comme interlocutrice avec laquelle je peux développer des idées et explorer différents points de vue.
Les Etats-Unis investissent des sommes colossales dans les infrastructures liées à l’IA, tandis que les entreprises les plus avancées sont principalement américaines ou chinoises. Quelles conséquences ce développement peut avoir pour l’Europe?
L'accès aux modèles les plus performants peut être restreint à tout moment. On l'a récemment constaté avec «Fable», temporairement inaccessible aux personnes ne résidant pas aux Etats-Unis. La situation a ensuite été rétablie, mais cet épisode prouve la possibilité de telles limitations. Les écarts entre les différents systèmes sont aujourd'hui importants, sans être encore décisifs.
Quelles leçons en tirez-vous?
Cela devrait être un signal d’alarme. D’un point de vue stratégique et prudent, il serait judicieux d’accélérer considérablement les investissements dans ce domaine. Sans accès à ces technologies, il sera difficile de comprendre les évolutions en cours, de saisir les opportunités économiques ou d’assurer une défense efficace. Les Etats européens pourraient construire sur leur territoire de vastes centres de calcul dédiés à l’intelligence artificielle et s’en servir comme atout stratégique dans les négociations. A long terme, il faudrait opter pour un développement mondial et coopératif de l’IA. Mais sans infrastructures ni compétences technologiques, on risque de ne même plus avoir de place à la table des négociations.
(Adaptation en français: Valentine Zenker)