Comment ChatGPT pourrait tirer profit de cet «incident sans précédent»
On se croirait dans un scénario hollywoodien: lors d’un test, certains des modèles les plus avancés d’OpenAI, l’entreprise à l’origine de ChatGPT, se sont échappé de leur environnement d’essai et ont pénétré de manière autonome dans les systèmes informatiques de la plateforme d’IA Hugging Face. Les modèles se seraient comportés comme des pirates informatiques chevronnés.
OpenAI vient de rendre l’affaire publique dans un billet de blog, évoquant un «cyber incident sans précédent, au cours duquel des capacités offensives de pointe ont été utilisées».
OpenAI profite donc de ce prétendu «incident cyber sans précédent» pour faire sa propre publicité: regardez, nos nouveaux modèles d’IA sont aussi performants que Claude Mythos, d’Anthropic, pour détecter les failles des logiciels. C’est sans doute pour cette raison qu’OpenAI souligne désormais qu’outre son modèle actuel GPT-5.6 Sol un «modèle inédit encore plus performant» a participé à la cyberattaque.
L’incident va encore alimenter le débat sur les risques, mais aussi sur les possibilités offertes par les modèles d’IA particulièrement puissants. OpenAI n’entend en aucun cas abandonner ce terrain à Anthropic.
Que s’est-il passé entre OpenAI et Hugging Face?
Selon OpenAI, l’attaque informatique s’est produite pendant une «évaluation interne», au cours de laquelle les modèles avaient reçu pour consigne de mener des attaques sophistiquées. L’objectif était concrètement de mesurer leur capacité à exploiter des failles de sécurité pour mener des cyberattaques. Les modèles devaient pour cela résoudre des exercices d’un test standard baptisé ExploitGym, fréquemment utilisé dans le secteur.
Notons, qu'en temps normal, les modèles d’IA comme ChatGPT refusent de répondre lorsque des personnes non autorisées demandent une analyse des failles de systèmes informatiques. Pendant le test interne, ces mesures de sécurité ont été désactivées afin de mesurer les capacités maximales des modèles en matière de cybersécurité. Les restrictions de sécurité ont donc été délibérément levées pour cette évaluation.
Comment l’attaque d'OpenAI s’est-elle déroulée?
L’IA aurait profité des nouvelles libertés accordées pendant le test et serait «allée jusqu’à l’extrême pour atteindre un objectif d’essai relativement limité», écrit OpenAI. Dans son environnement sécurisé, elle aurait utilisé une «quantité substantielle» de puissance de calcul pour obtenir avec succès un accès libre à internet. Elle aurait également découvert une faille zero-day, c’est-à-dire une vulnérabilité jusque-là inconnue.
L’IA qui s’était échappée sur internet aurait conclu de manière autonome que Hugging Face (plateforme d’échange de modèles d’IA et de jeux de données) pouvait contenir des données et des solutions utiles pour résoudre les exercices d’ExploitGym. Les modèles se seraient donc procuré des «informations secrètes» sur la plateforme afin de tricher pendant le test ExploitGym, écrit OpenAI. Pour y parvenir, ils auraient également exploité des failles de sécurité encore inconnues et utilisé des identifiants volés.
Selon OpenAI, l’IA aurait compromis Hugging Face à la manière de pirates professionnels, en combinant plusieurs vecteurs d’attaque. La victime avait elle aussi décrit l’incident, il y a quelques jours, comme une cyberattaque sophistiquée menée par un agent IA, qui aurait exécuté «des milliers d’actions». L’intrus aurait été détecté puis bloqué.
Le déroulement précis de l’attaque devra être éclairci dans les prochains jours. OpenAI évoque une analyse en cours, menée en collaboration avec Hugging Face.
Quelles sont les conséquences?
L’incident montrerait que les modèles d’IA les plus performants sont capables de découvrir et d’exploiter de nouvelles voies d’attaque dans des systèmes réels, écrit OpenAI. L’entreprise profite dans le même temps de cette attaque très médiatisée pour promouvoir ses propres services d’IA:
Les entreprises seraient naturellement invitées à confier la protection de leur infrastructure informatique à l’IA d’OpenAI, apparemment capable de découvrir des failles critiques.
Au bout du compte, OpenAI pourrait même profiter de cet «incident cyber sans précédent». L’affaire Hugging Face laisse en effet penser que d’autres modèles d’IA rattrapent Claude Mythos, avec des conséquences potentiellement graves pour les infrastructures informatiques.
Les spécialistes mettent depuis longtemps en garde contre les cyberattaques menées à l’aide de logiciels d’IA. Ces craintes ont surtout été alimentées par un nouveau modèle d’Anthropic, concurrent d’OpenAI. L’IA Mythos a en effet découvert des failles de sécurité restées inaperçues pendant des décennies. Si celles-ci ont ensuite pu être corrigées, cet épisode a également montré qu’une telle IA pouvait devenir une cyberarme dévastatrice entre de mauvaises mains.
C’est pourquoi les modèles d’IA les plus performants n’ont récemment été mis, dans un premier temps, qu’à la disposition des responsables de logiciels critiques, afin qu’ils puissent sécuriser leurs produits. Dans la pratique, rien ne garantit toutefois que cette avance apporte réellement davantage de sécurité. Les nouveaux modèles d’IA pourraient, au contraire, ne faire qu’accélérer la course entre les assaillants et les défenseurs, ce qui ne présage rien de bon.
Quoi qu’il en soit, les fournisseurs d’IA comme OpenAI et Anthropic figurent parmi les bénéficiaires.
Avec des informations des agences de presse ATS et DPA.