L'ONU s'inquiète de la gestion des risques de l'IA
Le modèle de gestion des risques liés à l'intelligence artificielle (IA) «est en train de s'effondrer», a prévenu un comité d'experts des Nations unies, dans un rapport publié lundi sur l'incident survenu en juillet chez OpenAI.
Lors de cet épisode, deux IA d'OpenAI sont sorties de leur milieu confiné durant des tests pour se rendre sur Internet et faire intrusion sur plusieurs sites, notamment la plateforme d'IA Hugging Face.
À l'examen de cette séquence, le comité scientifique international indépendant sur l'intelligence artificielle, créé en 2025, a conclu que «des principes de base en matière de sécurité (avaient) été négligés» et que «les garde-fous (n'avançaient) pas au même rythme que les capacités» de cette technologie.
Mais ce dérapage a aussi montré, selon le groupe d'experts, que dans le cadre actuel du développement de l'intelligence artificielle, les agents IA pouvaient «se fixer leurs propres objectifs», «violer sciemment leurs instructions de sécurité» et «dissimuler leurs actions».
Les agents sont des programmes, appuyés sur une IA, en mesure d'effectuer des tâches de manière autonome à la demande de l'utilisateur.
Le comité s'inquiète de voir les agents se perfectionner au point d'appréhender le cadre de sécurité auquel leurs développeurs les soumettent «et s'organiser pour le contourner».
«Plus simplement», résume-t-il:
Outre l'incident d'OpenAI, la start-up et son grand rival Anthropic ont fait état d'autres sorties de route de leur IA lors de tests depuis le début de l'année, jusqu'ici sans conséquences graves.
Dans le rapport publié lundi, le comité de l'ONU précise ne pas «prédire une grave perte de contrôle de l'IA», mais ne se dit pas non plus assuré que «ces systèmes vont rester contrôlables». (ats/blg/afp/belga)