Attaquée par un agent IA autonome, Hugging Face a analysé les traces avec un LLM local
Hugging Face a publié le 16 juillet 2026 une divulgation d’incident au sujet d’une intrusion dans une partie de son infrastructure de production. Selon l’entreprise, cette intrusion présentait une caractéristique inédite : elle a été pilotée de bout en bout par un système d’agent IA autonome.
En juillet 2026, Hugging Face, une plateforme majeure dédiée au partage de modèles d'intelligence artificielle et de jeux de données, a subi une cyberattaque menée par un agent IA autonome. L'entreprise a détecté et analysé cette intrusion principalement grâce à ses propres outils d'intelligence artificielle, notamment des LLM (modèles de langage de grande taille) exécutés localement. L'attaque a ciblé un ensemble limité de jeux de données internes et plusieurs identifiants utilisés par les services de l'entreprise. À ce stade, Hugging Face n'a trouvé aucune preuve d'altération des modèles publics, des jeux de données ou des espaces dédiés aux utilisateurs. L'impact sur les données des partenaires ou clients fait encore l'objet d'une évaluation. La chaîne d'approvisionnement logicielle (conteneurs, paquets) a été vérifiée et jugée saine.
Les pirates ont exploité une faille dans le pipeline de traitement des datasets (ensembles de données) de Hugging Face. Ils ont utilisé un jeu de données malveillant pour injecter du code via deux mécanismes : un chargeur de dataset à exécution de code distant et une injection de template dans une configuration de dataset. Ces méthodes ont permis d'exécuter du code sur un worker de traitement (un serveur dédié au traitement des données). Une fois ce point d'entrée obtenu, les attaquants ont accédé à un nœud (un serveur ou une machine du réseau), récupéré des identifiants cloud et de cluster, puis se sont déplacés latéralement dans plusieurs clusters internes pendant plusieurs jours. L'origine de l'attaque reste inconnue, mais Hugging Face évoque une campagne menée par un framework d'agents autonomes, probablement construit à partir d'outils de recherche en sécurité offensive de type agentique. Ce framework a exécuté des milliers d'actions individuelles dans des sandbox (environnements isolés) éphémères, avec un serveur de command-and-control (C&C) auto-migrant hébergé sur des services publics.
Hugging Face a mis en place plusieurs mesures pour contrer l'attaque et renforcer sa sécurité. L'entreprise a corrigé les chemins d'exécution de code du dataset ayant permis l'intrusion initiale, supprimé les points d'ancrage des pirates et reconstruit les nœuds compromis. Elle a également révoqué et régénéré les identifiants affectés, déclenché une rotation préventive plus large des secrets (mots de passe, clés d'authentification, etc.), et déployé des garde-fous et contrôles d'admission plus stricts sur ses clusters. Un système de détection a été amélioré pour qu'un signal de sévérité élevée déclenche une alerte en quelques minutes, 24 heures sur 24. Hugging Face collabore avec des experts externes en analyse d'incidents (forensic) et a signalé l'incident aux autorités judiciaires. Cette attaque n'est pas la première pour Hugging Face, qui avait déjà subi une compromission partielle de ses infrastructures en juin 2024.
Hugging Face a utilisé son propre pipeline de triage basé sur des LLM pour analyser les traces de l'attaque et reconstituer la chronologie des événements. L'entreprise a fait tourner des agents d'analyse LLM sur l'intégralité du journal d'actions de l'attaquant, qui comprenait plus de 17 000 événements enregistrés. Grâce à cette analyse, elle a réussi à reconstituer l'attaque, extraire les indicateurs de compromission, cartographier les identifiants touchés et distinguer les activités réelles des leurres. Un défi majeur a été l'asymétrie entre les outils de défense et les garde-fous des fournisseurs de modèles d'IA commerciaux. En effet, Hugging Face a d'abord tenté d'utiliser des modèles frontières via des API commerciales, mais ces requêtes ont été bloquées car les fournisseurs ne pouvaient pas distinguer les requêtes d'un analyste de celles d'un attaquant.
Hugging Face a finalement utilisé un LLM chinois, *GLM 5.2*, dont les poids sont ouverts, pour analyser l'attaque. Ce modèle a été exécuté en local sur l'infrastructure de l'entreprise, sans connexion à l'extérieur. Cette approche a permis d'éviter les blocages par les garde-fous des fournisseurs et d'empêcher que les données de l'attaquant ou les identifiants ne quittent l'environnement. Hugging Face en conclut qu'il est préférable de disposer d'un modèle capable, validé et prêt à l'emploi avant un incident, afin de pouvoir réagir rapidement. L'entreprise précise que cela ne remet pas en cause l'utilité des mesures de sécurité des modèles hébergés, mais souligne l'importance de combiner les deux approches. Elle a partagé ce retour d'expérience avec les fournisseurs concernés. Hugging Face considère que les outils offensifs autonomes pilotés par l'IA ne sont plus théoriques et réduisent le coût de gestion de campagnes complexes et multi-étapes.
