☕️ Deepfakes sexuels : Apple et Google de nouveau rappelés à l’ordre

Le procureur municipal de San Francisco, David Chiu, a officiellement demandé à Apple et Google de retirer 13 applications capables de générer des deepfakes sexuels sans consentement. Parmi ces applications, huit étaient disponibles sur l’App Store (boutique d’Apple) et cinq sur le Play Store (boutique de Google). Ces outils, souvent présentés comme des applications d’échange de visages ou de retouche photo, permettent en réalité de créer des images intimes truquées à partir de photos ou de vidéos existantes. Le procureur a souligné que la création de ces contenus est « illégale, préjudiciable et totalement inacceptable » et a déjà engagé des poursuites contre 16 sites proposant ce type de services. Apple et Google, qui perçoivent des commissions sur ces applications, sont pointés du doigt pour leur rôle dans leur diffusion.

Les règles des deux entreprises interdisent explicitement la pornographie, les abus et le harcèlement dans leurs boutiques d’applications. Pourtant, des applications comme celles de nudification (création d’images dénudées sans consentement) parviennent à passer entre les mailles du filet. Une étude du Tech Transparent Project (TTP) publiée en avril 2026 a révélé l’ampleur du problème : un nombre ahurissant de ces applications circulent sur les deux plateformes, souvent sous couvert d’outils inoffensifs. Par exemple, certaines se font passer pour des logiciels d’échange de visages ou de retouche photo, mais sont en réalité utilisées pour créer des contenus à caractère sexuel non consenti. Cette ambiguïté leur permet de contourner les contrôles des plateformes.

Apple et Google réagissent généralement a posteriori en supprimant les applications signalées par des enquêtes ou des autorités. C’est ce qu’a fait Google après la mise en demeure du procureur de San Francisco : les cinq applications concernées ont été retirées du Play Store. En Californie, la législation sanctionne les entreprises qui facilitent sciemment la diffusion de deepfakes pornographiques. Google affirme prendre des mesures proactives pour détecter et supprimer ces contenus, comme la suspension de centaines d’applications ou la restriction de termes de recherche associés (par exemple, le mot-clé « nudify »). Apple, de son côté, n’a pas souhaité commenter. Pourtant, ces retraits surviennent après des années de prolifération de ces applications, ce qui interroge sur l’efficacité des systèmes de modération des deux entreprises.

Le procureur David Chiu ne se limite pas à exiger le retrait des applications incriminées. Il demande également à Apple et Google de rompre leurs relations commerciales avec les éditeurs de ces applications et de renforcer significativement leurs procédures de contrôle et de modération. Ces demandes visent à combler les lacunes persistantes depuis des années dans la lutte contre les deepfakes sexuels. Pour les deux entreprises, ces échecs répétés représentent un sérieux couac dans leur communication, alors que leurs boutiques sont présentées comme des espaces « sûrs et fiables ». Pourtant, des millions d’utilisateurs d’iPhone et de smartphones Android y accèdent quotidiennement, ce qui rend ces plateformes incontournables pour les développeurs d’applications.