« La leçon pratique pour les défenseurs » : comment un piratage par IA a forcé Hugging Face à abandonner ses modèles frontière
Piratée par un système d'agents IA autonomes, la plateforme Hugging Face a dû abandonner les modèles frontière propriétaires pour mener son enquête. Le passage à un modèle open weight a changé la donne..
Le 16 juillet 2026, Hugging Face, la plus grande plateforme mondiale de partage de modèles et jeux de données d’intelligence artificielle, a subi une intrusion majeure dans son infrastructure cloud. L’attaque a débuté par un jeu de données piégé, un fichier malveillant déposé sur la plateforme et exécuté automatiquement dès son traitement par les serveurs de Hugging Face. Ce fichier a permis au pirate d’obtenir des identifiants de connexion, puis de progresser de serveur en serveur à travers plusieurs clusters internes de l’entreprise pendant un week-end. L’intrusion a été menée par un système d’agents IA autonomes, des programmes capables de prendre des décisions et d’exécuter des actions sans intervention humaine directe, réalisant plusieurs milliers d’opérations en quelques jours.
Lors de l’analyse des journaux de connexion pour comprendre l’attaque, Hugging Face a d’abord utilisé des modèles frontière via des API commerciales. Ces modèles, souvent très performants mais fermés et contrôlés par des fournisseurs externes, ont montré leurs limites. Les commandes nécessaires à l’analyse ont été bloquées par les garde-fous intégrés aux API, conçus pour empêcher les abus. Ces protections, bien que utiles pour bloquer des attaques réelles, ne faisaient pas la différence entre un analyste légitime en train de répondre à un incident et un pirate. L’entreprise a donc été incapable de progresser dans son enquête avec ces outils.
Pour contourner ces blocages, Hugging Face a adopté GLM 5.2, un modèle open weight (dont les poids ou paramètres sont librement accessibles et déployables localement). Contrairement aux modèles propriétaires, ce modèle n’était pas soumis aux restrictions des API commerciales. De plus, en l’exécutant directement sur son infrastructure locale, Hugging Face a pu analyser plus de 17 000 actions enregistrées de l’attaquant sans envoyer de données sensibles vers un tiers. Cette approche a permis de reconstruire la chronologie complète de l’attaque, d’extraire les indicateurs de compromission et de cartographier les identifiants touchés en quelques heures, tout en préservant la confidentialité des données.
Après l’incident, Hugging Face a mis en place plusieurs mesures pour renforcer sa sécurité. L’entreprise a corrigé les failles d’exécution de code ayant permis l’accès initial, éradiqué la présence de l’attaquant et reconstruit les nœuds compromis. Tous les mots de passe et clés d’accès concernés par l’attaque ont été changés, et cette opération a été étendue par précaution à l’ensemble des accès sensibles. Les contrôles de sécurité sur les clusters ont été renforcés, et des experts externes en cybersécurité ont été sollicités pour approfondir l’enquête. Enfin, l’incident a été signalé aux autorités compétentes.
Cet incident illustre une leçon pratique pour les équipes de cybersécurité : l’utilisation de modèles d’IA locaux et open weight peut être plus efficace que les solutions propriétaires pour analyser des attaques complexes. En évitant les garde-fous des API commerciales, les défenseurs conservent une liberté d’action et une confidentialité accrues. Hugging Face recommande désormais cette approche pour anticiper et réagir plus efficacement aux intrusions. L’entreprise souligne aussi l’importance de renforcer en permanence les contrôles de sécurité et de faire appel à des experts externes en cas d’incident majeur.
