Voici trois raisons pour lesquelles les patrons de l'IA ont la trouille
«Nous devons freiner le développement de l’IA», a écrit Dario Amodei, directeur général d'Anthropic, dans un billet de blog publié samedi. Après une longue réflexion, il est arrivé à la conclusion que l’ensemble du secteur devait ralentir le développement de ses modèles les plus puissants, «pour que la prévention des risques puisse suivre le rythme».
Dans la foulée, Dario Amodei a annoncé plusieurs mesures concrètes qu’Anthropic met dès à présent en œuvre pour faire face au problème. Peu après, Elon Musk réagit sur X:
Même son concurrent Sam Altman, d’OpenAI, abonde dans son sens et parle d’une «excellente idée» et prendra les mêmes mesures dans son entreprise. Mais pourquoi les grands patrons mondiaux de l’IA ont-ils donc décidé au même instant de ralentir ensemble le rythme du développement?
La crainte de l'autoamélioration récursive
Ces derniers mois, les modèles d’OpenAI et d’Anthropic ont fait des bonds technologiques considérables. A tel point que les enjeux dépassent désormais les risques classiques de l’intelligence artificielle, tels que les pertes d’emplois, les élections non libres, la désinformation, etc. comme l’écrit «Der Spiegel». Il est désormais question de risques existentiels pour l’humanité.
Concrètement, beaucoup voient le principal danger de l’intelligence artificielle dans sa capacité à développer et à optimiser elle-même ses propres successeurs, créant ainsi un cycle sans fin, sans intervention humaine. Dans les milieux spécialisés, ce processus est appelé «autoamélioration récursive» (RSI, en anglais), soit, en termes plus simples, «l'amélioration répétée de soi-même».
Les outils d’IA servent certes déjà à générer des algorithmes et du code mais, jusqu’ici, la décision finale restait au moins entre les mains des humains. Avec l'autoamélioration récursive, l’intervention humaine n’est plus requise, ce qui réduit d’autant les possibilités de contrôle.
Selon Dario Amodei, les chercheurs ont besoin d'un à deux ans pour comprendre les risques liés aux progrès de l’IA et intégrer les dispositifs de sécurité correspondants dans le code. Ils ne disposent cependant pas de ce temps, car le développement avance nettement plus vite que la sécurité. Le cadre fixé par les pouvoirs publics y est aussi pour quelque chose.
La dérégulation comme objectif de Trump
Car si l’Union européenne ou la Chine ont déjà adopté des lois sur l’IA, un autre vent politique et économique souffle aux Etats-Unis. Dès le premier jour de son second mandat, Donald Trump a abrogé le décret sur l’IA de son prédécesseur Joe Biden. Depuis, selon Der Spiegel, le mot d’ordre est le suivant: la rapidité avant la sécurité.
Certains Etats américains ont certes adopté des lois sur l’IA, ou prévoient au moins de le faire, mais la dérégulation se poursuit au niveau fédéral, malgré une pétition signée par plus de 1300 programmeurs en IA dans laquelle ils demandent de l’aide au gouvernement américain. Ils réclament que Washington impose des limites à cette technologie et ralentisse artificiellement la course à l’IA, voire la mette à l’arrêt.
Reste que, dans quelques jours, le président américain recevra son homologue chinois Xi Jinping pour des discussions à Washington. L’intelligence artificielle figurera tout en haut de l’ordre du jour. Donald Trump pourrait-il changer d’avis lors de ce sommet?
«Non», répond Daniel Kokotajlo, ancien cadre d’OpenAI, considéré comme l’un des experts les mieux connectés dans le domaine de la sécurité de l’IA. Ses attentes à l’égard du sommet sont «faibles, voire inexistantes». Selon lui, Donald Trump n’acceptera jamais une réglementation globale:
L'introduction en bourse
Enfin, reste un troisième point, un peu plus subtil, que Dario Amodei ne mentionne pas explicitement dans son billet de mise en garde. Il est une fois de plus question d’argent.
OpenAI comme Anthropic prévoient d’entrer en bourse dans les prochains mois. Or, si le sentiment venait à s’installer dans l’opinion publique que les entreprises de la Silicon Valley ne maîtrisent plus leurs produits, elles risqueraient de perdre leur acceptabilité sociale et, par conséquent, les faveurs des investisseurs potentiels.
C’est notamment pour cette raison que le patron d’OpenAI, Sam Altman, a reporté au printemps 2027 l’introduction en bourse prévue pour l’automne. Il a déclaré à Fortune:
Ces différentes raisons constituent des pistes pour expliquer la tendance actuelle au ralentissement de l'IA. L'avenir éclaircira si les motivations sont aussi nobles qu'annoncées ou s'il s'agit simplement d'une nouvelle tactique financière.
(Traduit et adapté de l'allemand par Bastien Trottet)
«Si le Congrès se hâte et convoque une session extraordinaire pour essayer de réguler l'IA, nous allons perdre la course contre la Chine», a déclaré Mike Johnson, le président de la Chambre des représentants à CNN. Mike Johnson faisait référence à la demande de plusieurs élus démocrates de renoncer à la suspension des travaux parlementaires prévue en octobre pour se consacrer à un texte sur la sécurité de l'IA.
«Nous devons nous assurer que nous agissons de manière responsable pour ne pas étouffer l'innovation», a exhorté Mike Johnson. «Il s'agit d'assurer notre sécurité, mais aussi qu'un acteur malveillant ne mette pas au point une IA plus forte que la notre pour créer des armes biologiques ou autre», a ajouté Kevin Hassett, conseiller économique de Donald Trump. (btr/ats)