Société
chatgpt

OpenAI veut renforcer la sécurité de ChatGPT

OpenAI veut renforcer la sécurité de ChatGPT

FILE - The OpenAI logo is seen displayed on a cell phone with an image on a computer monitor generated by ChatGPT's Dall-E text-to-image model, Friday, Dec. 8, 2023, in Boston. OpenAI says it&#03 ...
OpenAI a récemment lancé GPT-4, l'actuel système au coeur de ChatGPT. Keystone
Face à de nombreuses inquiétudes émanant de spécialistes en cybersécurité, un comité de surveillance va passer les trois prochains mois à évaluer les dangers autour du développement d'une IA avancée.
28.05.2024, 22:48
Plus de «Société»

OpenAI, l'entreprise créatrice de ChatGPT, a annoncé mardi la création d'un nouveau comité de surveillance, alors que le départ de plusieurs responsables a soulevé des inquiétudes quant à la volonté de celle-ci de réduire les dangers potentiels de l'IA.

«Nous sommes fiers de créer et proposer des modèles d'IA à la pointe de l'industrie, tant en matière de capacités que de sécurité et, en ce moment-clé, accueillons positivement le débat solide qu'il suscite»
Un communiqué de l'entreprise

Selon l'entreprise, le comité, au sein duquel siégera son patron Sam Altman, doit commencer à travailler au moment où OpenAI a lancé l'entraînement de son nouveau modèle d'intelligence artificielle (IA), qui est censé dépasser les capacités de GPT-4, l'actuel système au coeur de ChatGPT.

OpenAI a également assuré qu'elle recevra les avis de spécialistes externes durant cette période, parmi lesquels l'ancien responsable américain de la cybersécurité, Rob Joyce, qui était à la tête de cette division au sein de l'Agence nationale de sécurité (NSA), ainsi que John Carlin, ancien responsable du département de la Justice.

Le comité va faire le point sur les protocoles de sécurité déjà en place et avancer des recommandations en vue de possibles améliorations ou additions.

Le lancement de ce comité se veut la réponse au départ de plusieurs hauts responsables du groupe, inquiets au sujet du manque de priorité accordé, selon eux, par OpenAI à la sécurité de l'IA.

Au début du mois, l'entreprise avait démantelé son équipe chargée de la réduction des risques sur le long terme.

Annonçant son départ, le responsable de l'équipe, Jan Leike, avait critiqué son ex-employeur, l'accusant, dans une série de tweets, de donner la priorité à de «nouveaux produits tous beaux» au détriment du travail essentiel de sécurisation de l'IA:

«Ces derniers mois, mon équipe naviguait à contre-courant»

L'entreprise a par ailleurs créé la polémique alors que sa dernière itération intégrait une voix très proche de celle de l'actrice américain Scarlett Johansson, même si OpenAI a assuré ne pas avoir cherché à copier la star hollywoodienne. (ats/jch)

La greffe de tête bientôt possible?
Video: watson
Ceci pourrait également vous intéresser:
0 Commentaires
Comme nous voulons continuer à modérer personnellement les débats de commentaires, nous sommes obligés de fermer la fonction de commentaire 72 heures après la publication d’un article. Merci de votre compréhension!
L'airbag est-il risqué pour les porteurs de lunettes?
Gonflé par un gaz à mille degrés, un airbag qui s'ouvre peut violemment vous arriver dans la figure. Cela provoque souvent des blessures. Quels sont les risques pour les personnes à lunettes?

L'airbag s'est invité dans nos habitacles il y a plus de 40 ans. En 1981, Mercedes a été le premier constructeur allemand à le proposer dans l'équivalent de sa Classe S actuelle (série 126) - contre un supplément de prix et en combinaison avec un tendeur de ceinture. Mais l'histoire de l'airbag commence bien plus tôt.

L’article