☕️ xAI poursuit un utilisateur de Grok pour création de deepfakes sexualisés
xAI, maison mère du réseau social X et du moteur d’IA générative Grok, poursuit en justice un homme de Caroline du Sud au motif qu’il aurait utilisé Grok pour créer du contenu représentant des agressions sexuelles sur mineurs (Child sexual abuse material, CSAM). L’homme, Terry Harwood, a été arrêté plus tôt dans l’année pour des […].
La société xAI, dirigée par Elon Musk et propriétaire du réseau social X et de l'IA générative Grok, a engagé une action en justice contre un homme de Caroline du Sud, Terry Harwood. Selon xAI, cet utilisateur aurait enfreint les conditions d'utilisation de Grok en créant des deepfakes (contenus générés par intelligence artificielle imitant des personnes réelles) à caractère sexuel impliquant des mineurs. Ces contenus, appelés Child Sexual Abuse Material (CSAM) en anglais, désignent des images ou vidéos pornographiques mettant en scène des enfants. Terry Harwood avait déjà été arrêté plus tôt dans l'année pour des faits d'exploitation sexuelle de mineurs. Cette plainte, déposée devant la cour fédérale du Texas, marque la première fois qu'une entreprise d'IA générative poursuit un utilisateur pour de tels motifs.
Cette action en justice s'inscrit dans une stratégie récurrente d'Elon Musk, connu pour privilégier les recours juridiques dans ses conflits. Par exemple, il a récemment été impliqué dans une affaire opposant son entreprise xAI à OpenAI, dirigée par Sam Altman. Cette approche judiciaire vise à démontrer la fermeté de xAI en matière de modération, alors que la société fait face à plusieurs enquêtes internationales. La plainte souligne que xAI a déjà suspendu 52 222 comptes et transmis 73 604 alertes au National Center for Missing & Exploited Children (NCMEC), une organisation américaine spécialisée dans la lutte contre l'exploitation des mineurs. Ces alertes auraient conduit à au moins 244 arrestations.
Selon la plainte de xAI, Terry Harwood aurait téléchargé sur Grok des images non sexuelles d'adultes et d'enfants pour générer des deepfakes pornographiques à partir de ces visages. Il est également accusé d'avoir produit des images pornographiques non consenties d'adultes. Ces pratiques violent les règles d'utilisation de Grok, qui interdisent explicitement la création de contenus illégaux ou nuisibles. Les deepfakes concernent ici des contenus manipulés par IA, souvent difficiles à distinguer des images réelles, ce qui pose un défi majeur pour leur détection et leur régulation.
La plainte de xAI survient alors qu'Elon Musk a personnellement supervisé une orientation de plus en plus sexualisée des réponses de Grok. Cette dérive avait été signalée en février 2026, lorsque des utilisateurs avaient remarqué que l'IA générait des contenus à caractère sexuel sans filtrage strict. Malgré cette orientation controversée, xAI justifie son action en justice par la nécessité de montrer son engagement contre les abus, notamment la création de *deepfakes* illégaux. La société se trouve ainsi dans une position délicate, entre une politique interne permissive et une communication externe axée sur la modération.
