Hugging Face piraté par une IA autonome et les IA américaines refusent de l'aider

Plus de 17 000 actions malveillantes exécutées en un week-end, non par un pirate humain mais par une IA agissant seule. Le 16 juillet 2026, j'ai l'impression que nous avons franchi un cap. En effet, Hugging Face, la plateforme de référence de l'IA open source, a révélé avoir subi une intrusion pilotée de bout en bout par un système d'IA autonome. Voici ce qu'il faut savoir sur cet incident de sécurité.

Sommaire

• Un dataset piégé, puis une IA qui déroule l'attaque seule
• Quand les garde-fous des IA bloquent l'analyse
• L'IA offensive n'est plus une hypothèse

Un dataset piégé, puis une IA qui déroule l'attaque seule

Tout a commencé dans le pipeline de traitement des jeux de données de la plateforme IA. Selon le rapport publié par Hugging Face, un dataset malveillant a été chargé sur la plateforme et il a permis d'exploiter deux vulnérabilités menant à l'exécution de code au sein de ce pipeline :

• Un chargeur de datasets vulnérable à l'exécution de code à distance,
• Une injection de template dans la configuration d'un dataset.

Ceci a permis d'exécuter du code arbitraire. À partir de ce point d'entrée, l'attaquant a élevé ses privilèges jusqu'à obtenir un accès au niveau des nœuds, puis il a collecté des identifiants cloud avant de se déplacer latéralement vers d'autres clusters internes, le tout sur un week-end. Cet incident de sécurité a une particularité : il a été exécuté par un framework d'agents IA autonome.

"Celui-ci se distinguait de tout ce que nous avions géré auparavant sur un point essentiel : il était piloté de bout en bout par un système d'agents IA autonomes - et nous l'avons détecté et analysé en grande partie grâce à notre propre IA.", peut-on lire.

Le rapport évoque l'exécution de plusieurs milliers d'actions individuelles à travers des sandbox éphémères, le tout en s'appuyant sur une infrastructure de pilotage (C2) capable de se redéployer d'elle-même sur des services publics. Pour bien comprendre ce qui se cachait derrière cet attaquant agentique, les équipes de Hugging Face ont passé au crible plus de 17 000 événements. Ce chiffre montre à quel point l'activité a été importante, le tout dans un intervalle de temps relativement court.

Mais alors, quel est le modèle de langage (LLM) qui pilotait ces agents IA ? Pour le moment, la question reste sans réponse. Hugging Face précise tout de même que le framework semblait bâti sur un harnais spécialisé dans la sécurité. Impossible de savoir s'il s'agissait d'un modèle Frontier détourné (jailbreaké) ou d'un modèle open-weight sans restriction.

Les premiers éléments de l'enquête ont permis de déterminer :

• Ce qui a été touché : un ensemble limité de jeux de données internes et plusieurs identifiants de service. L'évaluation d'un éventuel impact sur des données de partenaires ou de clients se poursuit.
• Ce qui a été épargné : aucun signe d'altération des modèles, datasets ou Spaces publics, et une chaîne d'approvisionnement logicielle vérifiée comme saine. Ce dernier point est rassurant, cela veut dire que les paquets n'ont pas été altérés.

Les vulnérabilités à l'origine de l'intrusion, quant à elles, ont été corrigées, tandis que les identifiants concernés ont été révoqués.

Quand les garde-fous des IA bloquent l'analyse

Cette affaire a pris une autre dimension lorsque les équipes de Hugging Face ont cherché à solliciter l'IA pour analyser les journaux contenant les événements de sécurité. Pas question d'analyser 17 000 événements à la mano : l'IA permet de le faire en quelques heures au lieu de plusieurs jours.

Pour accomplir cette tâche, ils se sont d'abord tournés vers des modèles Frontier, accessibles via des API (Claude, GPT, Gemini, etc.). Sans succès. En effet, l'analyse de ces journaux suppose de soumettre :

• De très nombreuses commandes utilisées dans une attaque réelle,
• Des charges utiles utilisées pour l'exploitation et des artefacts.

Le problème, c'est que ce sont des éléments sensibles, et là, c'est alerte rouge : ces requêtes ont été bloquées par les garde-fous des fournisseurs IA. Ils ne font pas la différence entre un analyste en réponse à incident et un véritable attaquant. La preuve.

Face à cette situation, Hugging Face a pris la décision d'utiliser GLM 5.2, un modèle open-weight développé par la société chinoise Z.ai (Zhipu AI), exécuté sur leur propre infrastructure. Autrement dit, ils sont passés sur de l'IA locale. Un mal pour un bien dans le sens où ni les données de l'attaquant, ni les identifiants qu'elles référençaient n'ont quitté l'environnement de l'entreprise.

"Nous ne savons pas quel modèle animait les agents de l'attaquant, un modèle hébergé jailbreaké ou un modèle open-weight sans restriction. Dans les deux cas, l'attaquant n'était lié par aucune politique d'usage, tandis que notre propre travail de forensique était bloqué par les garde-fous des modèles hébergés que nous avons d'abord essayés.", peut-on lire.

On peut tirer une véritable leçon de cet incident de sécurité qui a impacté Hugging Face : disposer d'un modèle IA validé et capable d'analyser des journaux devient essentiel. Si on compte s'appuyer sur l'IA pour ce type d'analyse, il faut s'orienter vers un modèle open-weight auto-hébergé afin d'assurer la protection des données, en plus de bénéficier des capacités d'analyse.

À noter que Hugging Face ne nomme aucun fournisseur et n'indique pas quels modèles précis ont refusé les requêtes (on ne sait pas si c'est Claude Opus 4.8 ou un autre modèle).

L'IA offensive n'est plus une hypothèse

Au-delà du cas Hugging Face, cette cyberattaque illustre une tendance : l'outillage offensif piloté par IA n'a plus rien de théorique. Il abaisse le coût d'une campagne sophistiquée et en plusieurs étapes, le tout en opérant à la vitesse de la machine.

Depuis quelques mois, il y a de nombreux exemples. J'en ai partagé certains sur IT-Connect. En février 2026, j'évoquais déjà le cas de HackerBot Claw, ce bot IA autonome qui a semé le chaos sur GitHub et fait disparaître le scanner Trivy. Début juin, c'est un script PowerShell généré par IA qui a servi à cartographier un annuaire Active Directory lors d'une intrusion.

Le rapport complet publié par Hugging Face est disponible sur cette page.

Ajouter IT-Connect à mes
sources préférées

Cofondateur d'IT-Connect et Microsoft MVP "Cloud and Datacenter Management". Mon obsession depuis près de 15 ans ? Rendre l'administration système et la cybersécurité accessibles, que vous soyez junior ou confirmé. Plus qu'un métier, l'IT est pour moi une véritable passion. J’accompagne au quotidien les sysadmins et les professionnels de l’IT dans leur montée en compétences et leur veille technique.