Grok Build envoyait des dépôts vers le cloud sans le consentement des développeurs
L’assistant dédié au code informatique de SpaceXAI, Grok Build, envoyait des projets entiers vers des serveurs distants, sans consentement préalable des développeurs concernés. L’entreprise et son patron Elon Musk ont reconnu le problème, assurant que les éléments distants seraient supprimés.
Le 10 juillet 2024, un chercheur en sécurité nommé Cereblab a découvert que Grok Build, un assistant en ligne de commande (CLI) développé par SpaceXAI (filiale d’Elon Musk dédiée à l’intelligence artificielle), envoyait automatiquement les projets de code des développeurs vers des serveurs distants sans leur consentement. Pour analyser ce comportement, il a installé un proxy (un outil qui intercepte les échanges réseau) sur sa machine. Sur un projet de 12 Go, 5,1 Go de données non utilisées lors de la session ont été transférés vers un bucket (un espace de stockage) hébergé sur Google Cloud. Parmi ces données figuraient des fichiers sensibles comme un .env (fichier contenant des variables d’environnement, dont des clés d’accès aux API). Le chercheur a reproduit l’expérience en demandant explicitement à Grok Build de ne lire aucun fichier, mais les données ont tout de même été envoyées. Aucun transfert similaire n’a été observé avec d’autres assistants comme Claude Code, Codex (OpenAI) ou Gemini.
Face à ces révélations, SpaceXAI a reconnu le problème le 13 juillet 2024 via un message sur X (ex-Twitter). L’entreprise a affirmé que les données n’étaient pas conservées pour les utilisateurs ayant opté pour un fonctionnement sans rétention de données (ZDR), mais que pour les autres, un paramètre /privacy permettait de supprimer les données synchronisées. Elon Musk, PDG de SpaceXAI, a minimisé l’incident tout en annonçant que toutes les données précédemment uploadées seraient supprimées par précaution. Cependant, la dernière version de Grok Build suggère que la fonction d’envoi reste intégrée au logiciel, laissant la possibilité à SpaceXAI de réactiver ce comportement via un simple changement de configuration. Le chercheur Cereblab a confirmé que SpaceXAI avait désactivé le chargement côté serveur (disable_codebase_upload : true) tout en ajoutant une option /privacy, bien que celle-ci ne bloque pas l’envoi mais limite la conservation des données.
Cet incident soulève des questions sur la confidentialité des données des développeurs utilisant Grok Build. Les fichiers .env ou d’autres données sensibles pourraient être exposés sans que les utilisateurs en aient conscience. SpaceXAI n’a pas précisé si ces données étaient utilisées pour entraîner ses modèles d’IA, mais le chercheur Cereblab a souligné que la transmission et le stockage des données étaient avérés. Plusieurs témoignages sur les réseaux sociaux confirment ces transferts, avec une commande permettant de vérifier si un fichier a été téléchargé (cat ~/.grok/logs/unified.jsonl | grep repo_state.upload). En attendant une clarification de SpaceXAI, les utilisateurs sont invités à vérifier le statut de leurs dépôts, à modifier les secrets contenus dans leurs fichiers et à utiliser des outils de surveillance réseau pour détecter d’éventuels transferts non autorisés.
Cet incident intervient dans un contexte où *SpaceX* (maison mère de SpaceXAI) a récemment annoncé une introduction en bourse (*IPO*) et a racheté *Cursor*, une entreprise spécialisée dans les modèles d’IA pour développeurs. La fusion entre SpaceXAI et Cursor pourrait renforcer leur position sur le marché des outils de développement assistés par IA. Cependant, des questions persistent sur la gestion des données et la transparence des pratiques de ces entreprises, notamment après des révélations similaires impliquant d’autres acteurs du secteur. Les utilisateurs et les investisseurs pourraient être attentifs à ces enjeux dans les mois à venir.
