Contenus pédocriminels : Telegram rattrapé par ses problèmes de modération

En été 2024, Pavel Durov, cofondateur et PDG de Telegram, a été arrêté en France. Son arrestation fait suite à 12 chefs d'accusation, dont la complicité pour détention et diffusion d'images pédocriminelles. Ces images, souvent désignées par l'acronyme CSAM (Child Sexual Abuse Material), désignent des contenus illégaux représentant des mineurs dans des situations à caractère sexuel. L'information judiciaire ouverte contre lui a motivé cette mesure. Pavel Durov a depuis quitté la France en 2026, après avoir retrouvé sa liberté. Son arrestation illustre les tensions entre les plateformes numériques et les autorités judiciaires concernant la modération des contenus illicites.

Malgré les efforts de Pavel Durov, Telegram reste confronté à des problèmes récurrents de modération des contenus pédocriminels. En août 2026, Apple a temporairement retiré l'application de sa boutique en ligne, l'App Store, après avoir détecté des contenus CSAM. Cette situation n'est pas nouvelle : Telegram avait déjà été retiré de l'App Store en 2018 pour la même raison. Apple a expliqué avoir agi après avoir identifié des contenus enfreignant ses règles strictes interdisant les abus sexuels sur des enfants. L'application a été rétablie après suppression rapide des contenus et exclusion de l'utilisateur responsable.

Pavel Durov a révélé qu'un attaquant a exploité une faille pour contourner les systèmes de modération de Telegram. Ce dernier a inséré des contenus illégaux modifiés par intelligence artificielle (IA) en éditant un ancien message dans un groupe de discussion public. Cette manipulation a rendu le contenu pratiquement invisible aux membres du groupe, les empêchant de le voir ou de le signaler. L'objectif était de faire chanter les propriétaires des groupes en exigeant une rançon pour éviter une diffusion massive de ces contenus. Cette technique exploite la difficulté à détecter des modifications subtiles de messages existants.

Pavel Durov a alerté sur les conséquences de cette situation pour toutes les plateformes hébergeant du contenu généré par les utilisateurs. Il souligne que Telegram, utilisée par plus d'un milliard de personnes, a failli être retirée de l'App Store sans avertissement préalable. Cette action, qualifiée de risque systémique, menace l'ensemble des applications similaires. Durov affirme que si une telle décision peut être prise à l'encontre d'une plateforme majeure, aucune application n'est à l'abri de mesures similaires, même en l'absence de faute avérée.

Pavel Durov défend l'efficacité des systèmes de modération de Telegram, malgré ces incidents. Il affirme que la plateforme supprime rapidement les contenus illégaux des groupes publics. Cependant, des rapports comme celui d'AI Forensics révèlent que Telegram reste un espace d'échange pour des contenus CSAM ou violents non consentis. En avril 2026, l'Arcom, le régulateur français de l'audiovisuel, a épinglé Telegram pour sa lenteur à retirer des contenus illicites, notamment des liens de streaming illégal de compétitions sportives. Ces critiques remettent en question l'efficacité réelle des mesures mises en place.