Grok aurait généré 7 000 deepfakes pédocriminels d’une mineure pour son beau-père
Après la vague de deepfakes sur Grok fin 2025-début 2026, des enquêtes ont été lancées et plusieurs adolescentes et jeunes femmes ont porté plainte contre SpaceXAI mais aussi Stability AI. Cinq plaignantes, toutes mineures au moment des faits, les accusent d’avoir produit des contenus pédocriminels pour leurs utilisateurs.
L’entreprise SpaceXAI, anciennement appelée xAI et dirigée par Elon Musk, est accusée aux États-Unis d’avoir permis la génération de 7 000 deepfakes pédocriminels représentant cinq jeunes femmes mineures à l’époque des faits. Ces fausses images, créées via l’outil d’intelligence artificielle Grok, montrent ces mineures dans des scènes de viol ou des positions sexuelles explicites. Les contenus ont été générés à la demande d’utilisateurs, dont un beau-père qui a utilisé une photo de sa belle-fille prise à 11 ans pour produire ces images. SpaceXAI est également critiquée pour ne pas avoir bloqué ces créations malgré les signalements, et pour avoir transmis l’information à la mauvaise autorité judiciaire. Une audience préliminaire est prévue le 15 octobre 2026.
Les deepfakes, ou faux contenus hyperréalistes, sont des images ou vidéos manipulées par l’intelligence artificielle pour représenter une scène qui n’a jamais eu lieu. Dans ce cas, les victimes, toutes mineures au moment des faits, décrivent un traumatisme durable : leur visage est associé à des scènes de viol ou d’abus sexuels, même si ces images sont totalement fictives. L’une des plaignantes explique que moins de 48 heures après l’upload de sa photo, des milliers d’images pédocriminelles la représentant ont été générées. Ces contenus ont causé une crise personnelle grave, aggravée par le suicide du beau-père après le début des investigations. Les victimes doivent désormais vivre avec l’association permanente de leur image à ces abus.
Les avocats des plaignantes ont ajouté une nouvelle entreprise à la plainte : Stability AI, qui développe des modèles d’IA générative en open-weight (modèles dont les paramètres internes sont publics). Selon eux, les applications utilisées pour créer les deepfakes s’appuyaient sur les outils de Stability AI, notamment les modèles Stable Diffusion SD 1.0 et 1.5. Ces modèles ont été entraînés sur une base de données appelée LAION-5B, qui contenait initialement des contenus pédocriminels. Les avocats affirment que ces données d’entraînement ont permis aux modèles de générer facilement des contenus illégaux, même après des ajustements par les utilisateurs. Stability AI n’a pas encore réagi à ces accusations.
SpaceXAI est critiquée pour son manque de réactivité face aux signalements. Lorsqu’un utilisateur a généré des deepfakes pédocriminels, l’entreprise a transmis l’information à la mauvaise autorité judiciaire, retardant les investigations. De plus, bien que SpaceXAI ait signalé le cas aux autorités, elle n’a pas fourni les deepfakes eux-mêmes, ce qui a empêché l’inculpation du beau-père. Selon les plaignantes, cette négligence a permis la diffusion massive de contenus illégaux et aggravé leur souffrance. L’entreprise n’a pas répondu aux demandes de commentaires des médias.
Ce cas illustre les dangers des outils d’IA générative, dont l’accès s’est généralisé rapidement. Les modèles comme Grok ou Stable Diffusion permettent de créer des contenus réalistes à partir d’une simple photo, mais ils peuvent être détournés pour produire des images pédocriminelles. Les plaignantes soulignent que ces outils transforment la vie quotidienne en une situation d’abus permanent, où les victimes doivent vivre avec l’association de leur image à des violences sexuelles. Les autorités américaines et françaises ont ouvert des enquêtes, mais les entreprises concernées n’ont pas encore été entendues par la justice. L’audience préliminaire est reportée au 15 octobre 2026.
