Alors qu’elle investit des milliards dans l’IA, Facebook semble abandonner la modération : des vidéos IA de violences sur enfants sont restées disponibles pendant 48h malgré les signalements
Des comptes Facebook diffusant des vidéos IA de maltraitance d’enfants ont été signalés à Meta. L’entreprise n’a réagi qu’après plus de deux jours de silence.
Le 7 octobre 2026, un média a signalé à Meta, la maison mère de Facebook, 19 comptes diffusant des vidéos générées par intelligence artificielle (IA) montrant des violences extrêmes envers des enfants. Ces vidéos incluaient des scènes comme un nourrisson placé dans un four, une fillette poussée dans un escalier ou des enfants battus et enfermés dans des machines à laver. Malgré ces signalements répétés, Meta n’a pas réagi pendant plus de 48 heures. L’entreprise n’a supprimé ces comptes qu’après la publication d’un article révélant leur existence, sans fournir d’explication sur ce délai. Ce cas illustre un problème récurrent de modération sur la plateforme, où des contenus aussi graves restent accessibles pendant des jours, voire sont rétablis après suppression, comme ce fut le cas en septembre 2026 pour un compte affichant des dizaines de vidéos de maltraitance.
Meta, qui compte plus de trois milliards d’utilisateurs mensuels, investit des centaines de milliards d’euros dans le développement de l’intelligence artificielle, notamment pour créer une « superintelligence » selon les termes de Mark Zuckerberg. Pourtant, ces ressources colossales ne semblent pas être mobilisées pour améliorer la modération des contenus abusifs, y compris ceux générés par IA. L’entreprise pourrait pourtant utiliser des outils simples, comme un filtrage textuel des légendes accompagnant les vidéos. En effet, les descriptions des publications signalées contiennent des mots-clés explicites, comme « mère place nourrisson dans un four pour soigner un rhume » ou « enfant enfermé dans une porcherie ». Meta utilise déjà des modèles de langage pour analyser des milliards de messages par jour sur ses plateformes, ce qui rend cette solution techniquement réalisable sans effort majeur.
Les vidéos de violences envers les enfants générées par IA posent un problème croissant sur les réseaux sociaux. Contrairement aux contenus réels, ces vidéos sont créées artificiellement, ce qui les rend plus difficiles à détecter pour les systèmes de modération classiques. Elles peuvent circuler librement pendant des périodes prolongées, exposant des millions d’utilisateurs, dont des mineurs dès l’âge de 13 ans, à des scènes extrêmement choquantes. Leur suppression intervient souvent uniquement après des signalements externes, et non grâce à une détection proactive. Ce phénomène soulève des questions sur l’efficacité des outils de modération actuels face à l’évolution rapide des technologies, notamment l’IA générative, et sur la responsabilité des plateformes comme Meta dans la protection de leurs utilisateurs.
Lorsqu’un média a signalé en septembre 2026 un compte particulièrement violent, Meta a supprimé la publication, puis l’a rétabli quelques jours plus tard avec l’intégralité de ses vidéos. Un porte-parole de l’entreprise avait alors promis d’examiner le dossier, mais aucune suite concrète n’a été donnée. Cette absence de réaction structurée et de transparence de la part de Meta interroge sur sa capacité à gérer les contenus abusifs, surtout lorsqu’ils sont générés par des outils internes comme l’IA. Le groupe semble privilégier une approche réactive plutôt que proactive, réagissant uniquement après des alertes externes plutôt que d’anticiper les risques liés à ses propres technologies.
