Elon Musk, multimilliardaire de la tech', demande un arrêt «immédiat» du développement de systèmes d'intelligence artificielle (IA) plus performants que le modèle linguistique controversé GPT-4 de la société OpenAI.
Dans une lettre ouverte signée par plus de 1000 professionnels de l'informatique et leaders de la technologie, Musk souligne les risques pour la société si le développement n'est pas immédiatement interrompu.
Dans la lettre publiée dans la nuit de mardi à mercredi et signée par plus de 1000 professionnels de l'IA et dirigeants de la technologie, une pause de six mois dans le développement est demandée. Pendant cette période, des protocoles de sécurité pour les systèmes d'IA devraient être développés, mis en œuvre et examinés par des experts indépendants.
«Les systèmes d'IA puissants ne devraient être développés que lorsque nous sommes sûrs que leurs effets seront positifs et leurs risques gérables», cite l'agence de presse Reuters.
De plus:
Si le secteur de l'IA ne s'engage pas dans la pause de réflexion proposée, les auteurs de la lettre ouverte demandent une intervention des régulateurs gouvernementaux.
Parmi les signataires, on trouve le cofondateur d'Apple Steve Wozniak, l'auteur de best-sellers Andrew Yang, le cofondateur de Skype Jaan Tallinn et la développeuse de DeepMind Victoria Krakovna.
On peut également citer:
La lettre a été publiée sur le site web du Future of Life Institute. Il s'agit plus précisément d'une pétition en ligne. Toutes les personnes intéressées peuvent la cosigner.
Selon le registre de transparence de l'Union européenne (UE), le Future of Life Institute est principalement financé par la Musk Foundation ainsi que par le groupe pour l'altruisme efficace Founders Pledge, basé à Londres, et la Silicon Valley Community Foundation, comme le note Reuters.
Dans leur document, les signataires soulignent les risques des systèmes d'IA pour la société et la civilisation: «Devons-nous laisser les machines inonder nos canaux d'information avec de la propagande et des mensonges?», peut-on notamment lire, avant de voir plus loin:
Il s'agit ni plus ni moins que de la perte de contrôle de notre civilisation, d'après les auteurs de la lettre.
Il y a quelques jours seulement, l'agence de police Europol avait averti que les criminels utiliseraient l'intelligence artificielle comme ChatGPT pour commettre des fraudes et autres cybercrimes. Cela offre une «perspective sombre», peut-on lire dans un rapport de l'autorité policière européenne basée à La Haye. Les capacités des chatbots, qui se développent rapidement, seront utilisées à l'avenir non seulement pour améliorer l'humanité, mais aussi pour la tromper.
Depuis sa sortie en 2022, le ChatGPT de l'entreprise américaine OpenAI – cofondée par Musk – et soutenu par Microsoft a incité d'autres entreprises à accélérer le développement de grands modèles de langage (LLM) similaires.
ChatGPT créée des textes à l'aide de l'intelligence artificielle. Les utilisateurs peuvent donner des commandes ou des phrases individuelles, que le système complète ensuite de manière autonome à l'aide d'une quantité énorme de données provenant d'Internet.
(t-online/dsc)
