Deepfakes haineux : les règles de Meta ne sont pas à la hauteur

L’Oversight Board est un comité indépendant créé par Meta (anciennement Facebook) en 2019 et opérationnel depuis 2020. Son rôle est de rendre des décisions contraignantes sur certains contenus publiés sur les plateformes du groupe, comme Facebook ou Instagram. Cependant, son pouvoir reste limité : Meta n’est pas obligé de suivre les recommandations générales que le Board peut proposer. Malgré cette contrainte, les dossiers traités par ce comité permettent de révéler les failles ou les incohérences dans les politiques de modération de Meta. Par exemple, en septembre 2026, il a examiné deux cas de deepfakes haineux, mettant en lumière des lacunes dans la gestion de ces contenus par l’entreprise.

En novembre 2025, une vidéo truquée par intelligence artificielle (IA) a été partagée sur Facebook. Elle montrait une conseillère municipale écossaise du Parti travailliste affirmant, de manière diffamatoire : « Les réfugiés sont les bienvenus ici, même s’ils violent nos femmes, car les Blancs le font aussi. » Après une analyse, Meta a conclu que cette vidéo ne violait pas ses règles communautaires et n’a pas appliqué d’étiquette signalant un contenu généré par IA. La vidéo est restée en ligne pendant dix mois, malgré les demandes de retrait de la conseillère et d’autres victimes. Le Board a finalement ordonné sa suppression, estimant qu’elle associait de manière haineuse un groupe entier (les réfugiés) à des actes criminels. Meta a accepté de la retirer après cette décision.

Le Board reproche à Meta de ne pas avoir assez de règles strictes pour gérer les deepfakes haineux. Selon lui, la plateforme devrait : élargir les situations où l’étiquette « IA à haut risque » s’applique, ce qui permettrait de mieux repérer et limiter la diffusion de contenus trompeurs. Il recommande aussi de renforcer les sanctions contre les comptes publiant ces contenus de manière répétée et d’être plus transparent sur les critères d’application de ces étiquettes. Le Board souligne que les deepfakes ciblent souvent de manière disproportionnée les femmes politiques, journalistes et militantes, qui manquent parfois de moyens pour se défendre contre ces attaques.

Une jeune femme musulmane, militante pour l’éducation à la santé menstruelle, a été victime d’une campagne de harcèlement en ligne. Des vidéos et images truquées par IA ont été diffusées sur plusieurs réseaux sociaux, dont Meta, pour la ridiculiser. Ces contenus, cumulant des dizaines de millions de vues, suggéraient qu’elle n’était pas légitime pour s’exprimer sur ces sujets en raison de son apparence physique. Malgré ses demandes de retrait, Meta a refusé d’intervenir initialement. Le Board a finalement ordonné la suppression de ces contenus, les qualifiant de harcèlement, car ils utilisaient l’IA pour falsifier ses paroles et alimenter une campagne de dénigrement contre elle.

Pour mieux lutter contre les deepfakes haineux, le Board propose plusieurs mesures à Meta. Il recommande d’élargir la définition des images manipulées non sollicitées pour inclure les contenus montrant une personne disant ou faisant des choses qu’elle n’a pas dites ni faites. Il suggère aussi d’ajouter ces contenus à une base de données de référence, afin que leurs copies puissent être automatiquement détectées et supprimées. Enfin, il propose de considérer les indices d’IA comme un facteur aggravant pour prioriser les signalements. Ces attaques, souvent délibérées et coordonnées, visent à réduire au silence les femmes dans la vie publique, selon un rapport de l’ONU Femmes publié en 2025.