Des agents IA d'OpenAI ont piraté un site de leur propre initiative
Le créateur de ChatGPT, OpenAI, a annoncé mardi que ses modèles d’intelligence artificielle avancés s’étaient emballés lors de tests de sécurité, piratant de leur propre initiative une plateforme populaire auprès des programmeurs.
L'entreprise basée à San Francisco a évoqué un «cyberincident sans précédent» et annoncé une enquête conjointe avec Hugging Face, la bibliothèque de code en ligne qui en a été la cible.
OpenAI a précisé que l’incident impliquait une combinaison de modèles, dont son GPT-5.6 Sol lancé récemment ainsi qu'un modèle «encore plus performant» en cours d'élaboration.
Evaluer les capacités de piratage des modèles
L’entreprise cherchait à évaluer les capacités de piratage des modèles en leur assignant des tâches dans un environnement d’essai numérique strictement contrôlé, où l’accès à internet était limité pour des raisons de sécurité.
Une fois connectés à internet, ils ont ciblé la plateforme Hugging Face - un vaste répertoire de modèles d’IA, de jeux de données et d’autres informations - pour les aider dans leur quête.
«Informations secrètes»
A la recherche d’«informations secrètes» pouvant l’aider à tricher lors de l’évaluation, le système d’OpenAI «a enchaîné plusieurs vecteurs d’attaque, notamment en utilisant des identifiants volés». Hugging Face avait signalé cette «intrusion informatique» la semaine dernière, sans mentionner OpenAI.
GPT-5.6 et d’autres modèles d'IA de pointe, notamment la série Mythos du grand rival d’OpenAI, Anthropic, suscitent des inquiétudes quant à leur capacité potentielle à franchir les défenses de cybersécurité.
Les deux entreprises américaines ont dû retarder temporairement la mise à disposition générale de ces technologies de dernière génération en raison de craintes à Washington qu’elles puissent aider à s’introduire dans des infrastructures cruciales. (afp)