Mark Zuckerberg ne veut pas ralentir le développement de l'IA
Mark Zuckerberg, patron de Meta, a rejeté mardi les appels grandissants à suspendre ou ralentir le développement de l'intelligence artificielle, estimant que les mécanismes du marché et le risque de poursuites judiciaires constituaient les meilleurs garde-fous.
«Les gens ne voudront pas utiliser des agents qui ne sont pas alignés sur leurs intérêts et qui ne font pas ce qu'ils demandent. Les laboratoires ont donc une forte incitation naturelle à rendre leurs modèles davantage alignés», a écrit Mark Zuckerberg sur X.
L'«alignement» désigne les efforts visant à faire en sorte que les modèles se comportent comme le veulent les humains. «Tout laboratoire qui ne se concentre pas sur l'alignement prendra du retard», a-t-il ajouté.
Organisme commun
L'inquiétude autour de l'IA est montée en puissance ces dernières semaines, en raison de plusieurs incidents de sécurité et de la propension nouvelle des modèles d'intelligence artificielle à s'améliorer seuls, sans intervention humaine.
Le débat porte aujourd'hui aussi sur la capacité du secteur à s'autoréguler. Des acteurs comme OpenAI, Anthropic et Google étudient la création d'un organisme commun chargé d'élaborer des normes.
Plusieurs figures influentes du secteur, emmenées par le directeur général d'Anthropic, Dario Amodei, plaident pour un ralentissement du développement de l'IA.
145 milliards de dollars
M. Zuckerberg défend toutefois que la menace de poursuites judiciaires contraint déjà les laboratoires à agir de manière responsable.
Il cite en exemple la décision de Meta de repousser de plusieurs mois le lancement de son système Muse AI, doté d'agents personnalisés, afin de renforcer ses dispositifs de sécurité et de sûreté.
Meta, qui investit jusqu'à 145 milliards de dollars cette année dans ses infrastructures d'IA, bataille contre toute régulation susceptible de le ralentir: aucune règle ne doit retarder la sortie des modèles américains, «ne serait-ce que d'un mois», avait déjà plaidé son fondateur début août.
La publication de Mark Zuckerberg a été saluée par plusieurs personnalités de la Silicon Valley proches de la Maison-Blanche, qui contestent la multiplication des mises en garde sur les dangers potentiels de l'IA et les appels à un ralentissement de son développement. (ats)