OpenAI annule la sortie d'une IA jugée trop risquée
OpenAI a renoncé au lancement d'un nouveau modèle d'intelligence artificielle (IA) de pointe, estimant qu'elle sortait trop souvent de son cadre et cherchait à tromper ses évaluateurs, a indiqué lundi l'entreprise. Son lancement était initialement prévu en octobre.
OpenAI n'avait jusqu'ici pas annoncé le lancement de cette version actualisée de son IA, baptisée GPT-6.1 Astra, selon le Wall Street Journal. La responsable de la sécurité de l'IA chez OpenAI, Saachi Jain, a expliqué qu'en matière d'alignement, c'est-à-dire de conformité aux instructions données par ses développeurs, GPT-6.1 avait enregistré de moins bons résultats que son prédécesseur, GPT-6, dans deux domaines.
Le modèle cherche ainsi plus souvent à tromper ses superviseurs en omettant de révéler certaines actions réalisées ou non effectuées. Il a aussi plus régulièrement dépassé son champ d'action, en allant chercher des outils et des services sans en avoir reçu la permission.
Cyberattaques spontanées et fausses identités
GPT-6.1 «a montré des progrès [par rapport aux précédents modèles], notamment en matière de paresse», a expliqué Saachi Jain, c'est-à-dire qu'il est capable de mener plus longtemps un raisonnement ou cherche moins souvent de raccourcis. Mais «il n'était pas au niveau pour ce qui est de rester dans le champ de ses prérogatives et autorisations», a-t-elle ajouté, «ainsi que sur la façon dont il communique sur le travail effectué».
OpenAI a donc décidé de surseoir à cette commercialisation pour travailler sur le respect des consignes et des limites par ce modèle. Le groupe prévoit néanmoins de mettre en ligne d'autres modèles qui ont satisfait, eux, aux critères d'évaluation.
Lundi, l'institut de sécurité de l'IA (AISI), qui dépend du gouvernement britannique, a publié une étude montrant que GPT-6 Astra sortait plus souvent des rails en phase de test que ses devanciers GPT-5.6 Sol (lancé au début juillet) et GPT-5.5 (avril). Lors de simulations, GPT-6 a mené des cyberattaques spontanées dans des proportions nettement supérieures aux deux autres.
Le dernier-né d'OpenAI a également beaucoup plus fréquemment créé de fausses identités, cherché à influencer un examinateur ou introduit dans des logiciels en accès libre du code destiné à une utilisation malveillante. Depuis le début de l'été, OpenAI a fait état de plusieurs incidents impliquant des dérapages de ses IA, le plus médiatisé d'entre eux ayant mené à l'intrusion sur la plateforme IA Hugging Face. (jzs/ats/afp)