Deepfakes sexuels : Cloudflare, Google et Namecheap accusés de ne pas agir suffisamment
Depuis quelques années, la création et diffusion de deepfakes pornographiques ont explosé sur Internet. Trois chercheurs pointent la responsabilité des fournisseurs de services comme Cloudflare, Namecheap et Google dans la diffusion de ces images violentes qui poussent souvent les victimes-survivantes dans une rupture sociale.
En mai 2025, le site MrDeepfakes, l’un des principaux sites de production de deepfakes à caractère sexuel, a fermé ses portes. Selon son annonce, cette fermeture est due à la décision d’un prestataire de services essentiel qui a mis fin à son contrat, rendant impossible la poursuite de l’activité en raison de la perte des données hébergées. Les deepfakes sont des contenus générés par intelligence artificielle qui imitent de manière réaliste des personnes, souvent sans leur consentement. Ce cas illustre comment des acteurs majeurs du numérique peuvent impacter indirectement des plateformes controversées en coupant leurs services de base.
Une étude menée par les chercheuses Sarah Morgan, Sophie J. Nightingale et Hany Farid met en lumière la responsabilité des grandes entreprises technologiques dans la diffusion des deepfakes sexuels. Ces entreprises fournissent l’infrastructure de base nécessaire au fonctionnement des sites hébergeant ce type de contenus. Parmi les acteurs clés identifiés figurent Cloudflare, Google et Namecheap, qui proposent respectivement des services d’hébergement web, de réseau de diffusion de contenu (CDN), de gestion des noms de domaine (DNS) et d’enregistrement de noms de domaine. L’étude souligne que ces services sont souvent invisibles pour les utilisateurs finaux, mais essentiels à l’existence des sites concernés.
Les chercheurs ont analysé 88 sites hébergeant des deepfakes de célébrités pendant un mois et demi, en utilisant des mots-clés et des alertes Google. Parmi ces sites, 80 étaient des plateformes de vidéos pour adultes, cinq des forums spécialisés, et trois autres types de sites (un forum généraliste avec un fil dédié, une plateforme de créateurs payante contenant du contenu pour adultes, et un site de partage de fichiers basé sur le cloud). Les sites dédiés exclusivement aux deepfakes sexuels représentaient une part significative de ces plateformes.
L’étude révèle que cinq acteurs dominent l’infrastructure des sites de deepfakes : Cloudflare, Google, Namecheap, WordPress et ProtonMail. Cloudflare est le principal fournisseur pour quatre services sur neuf, notamment l’hébergement de sites web (64/105), les CDN (68/122), les services DNS (67/87) et les outils d’analyse (56/144). Google domine quant à lui les certificats SSL (61/88) et les espaces publicitaires (40/92). Namecheap est le leader pour l’enregistrement de noms de domaine (27/88), tandis que WordPress est le principal système de gestion de contenu (49/58) et ProtonMail pour les services de messagerie (7/34).
Les chercheurs soulignent que la prolifération des deepfakes sexuels ne se limite pas à un problème de création ou de modération de contenu. Elle est aussi liée à l’infrastructure technologique invisible qui permet leur diffusion. Ils estiment que les fournisseurs d’infrastructure devraient bloquer de manière permanente les sites dédiés exclusivement ou principalement à ce type de contenus. Cette mesure radicale serait réservée aux acteurs les plus répréhensibles, mais elle est techniquement possible, comme l’a montré Cloudflare en 2017 en fermant le compte du site néonazi The Daily Stormer.
En 2017, Cloudflare a décidé de fermer le compte de The Daily Stormer, un site néonazi, en invoquant ses conditions générales d’utilisation. Cette décision, bien que controversée, a montré que les fournisseurs d’infrastructure ont le pouvoir de bloquer des sites. Le PDG de Cloudflare, Matthew Prince, a par la suite exprimé des regrets, estimant qu’aucun acteur ne devrait avoir ce pouvoir. En 2019, l’entreprise a de nouveau agi contre le forum 8chan après des tueries aux États-Unis, le qualifiant de plateforme inspirant des événements tragiques. Ces exemples illustrent la capacité des géants du numérique à prendre des mesures exceptionnelles, bien que cela reste une décision délicate.
Bloquer un site ou un compte est techniquement simple pour les géants du numérique, mais cela ne résout pas le problème de fond. Une personne malintentionnée peut facilement recréer un compte avec une autre adresse, ce qui donne lieu à un *jeu du chat et de la souris* entre les plateformes et les créateurs de contenus illégaux. La solution pourrait davantage provenir de la justice, qui peut condamner directement les responsables. Cependant, les auteurs de ces contenus cachent souvent leur identité, et les différences de juridictions mondiales compliquent leur traque. Le contexte international et la protection des données rendent cette tâche encore plus difficile.
