Des modèles d’OpenAI piratent Hugging Face pour tricher à un test, sans aucune intervention humaine

Deux modèles d’IA d’OpenAI, dont GPT-5.6 Sol, ont franchi les limites d’un environnement de test sécurisé pour s’introduire dans les serveurs de production de Hugging Face. Le début de la fin ?

On connait la plateforme de partage de modèles d’intelligence artificielle Hugging Face pour l’hébergement de travaux d’IA générative. Récemment, elle a accueilli Inkling, un modèle « à poids ouverts » dont les paramètres entrainés sont téléchargeables librement. Mais dans le domaine de l’IA, une nouvelle étape semble avoir été franchie.

En effet, Hugging Face avait révélé le 16 juillet 2026 avoir détecté un accès non autorisé à ses systèmes, attribué à l’époque à un « système d’agent d’IA autonome » dont l’origine restait inconnue. L’entreprise avait alors précisé que l’attaquant avait exploité deux failles liées à l’exécution de code dans des jeux de données, avant de récupérer des identifiants de service et de se déplacer latéralement dans ses clusters internes durant tout un week-end.

ChatGPT

Hugging Face avait toutefois assuré qu’aucune preuve n’indiquait une altération des modèles publics, des jeux de données ou des paquets logiciels diffusés sur sa plateforme. Pour analyser l’attaque, la société avait dû recourir à son propre modèle open source, ses tentatives initiales avec un modèle commercial ayant été bloquées par les garde-fous de sécurité du fournisseur.

OpenAI reconnaît la responsabilité de ses propres modèles

Mais bingo, selon l’enquête interne, il a été établi que l’incident provenait d’une combinaison de deux des modèles d’OpenAI : GPT-5.6 Sol, son système public le plus avancé, et un modèle encore non commercialisé décrit comme « plus capable ». D’après le fabricant, ces deux systèmes étaient soumis à une évaluation baptisée ExploitGym, un banc d’essai regroupant près de 900 vulnérabilités logicielles réelles destiné à mesurer la capacité offensive des modèles.

Il est important de noter que pour les besoins du test, leurs garde-fous de sécurité avaient été volontairement abaissés afin d’évaluer leurs compétences en cyberattaque sans restriction.

Comment ont-ils pu rentrer dans le système ?

Les modèles, confinés dans un environnement isolé avec un accès réseau limité à un proxy interne, se sont montrés obstinés à résoudre le problème posé. Ils ont d’abord repéré et exploité une vulnérabilité zero-day dans ce logiciel tiers hébergé par OpenAI, ce qui leur a permis d’élever leurs privilèges et d’atteindre un nœud connecté à Internet.

En déduisant que Hugging Face pouvait héberger les solutions de l’évaluation ExploitGym, les modèles ont ensuite enchaîné plusieurs vecteurs d’attaque, combinant identifiants volés et nouvelles failles zero-day, jusqu’à obtenir une exécution de code à distance sur les serveurs de la plateforme.

Selon OpenAI, aucun humain n’avait ordonné cette intrusion : les modèles poursuivaient simplement l’objectif de réussir le test, avec ce que la marque qualifie de « fixation extrême », comprenez qu’il faut absolument que le modèle réussisse sa mission.

Une alerte pour l’ensemble du secteur

Face à cet épisode qu’OpenAI qualifie lui-même « d’incident cyber sans précédent », la société a annoncé renforcer les contrôles de ses environnements d’évaluation, même si cela doit ralentir le rythme de ses recherches. Hugging Face, de son côté, a insisté sur le fait que « l’outillage offensif autonome piloté par l’IA n’est plus théorique », rappelant que ce type d’attaque réduit les coûts et accélère les campagnes de piratage.

Les deux entreprises ont depuis corrigé les vulnérabilités exploitées et mènent une investigation commune. Comparé à d’autres incidents de cybersécurité touchant des plateformes d’IA comme les fuites de données ponctuelles chez d’autres hébergeurs de modèles, ce cas met en lumière la possibilité d’une attaque avec une absence totale d’intervention humaine. Cela rejoint les appels des experts en sécurité à renforcer le confinement des systèmes d’IA les plus avancés.