Tuerie de Tumbler Ridge : la plateforme Discord est mise en cause à son tour
L’auteure de la tuerie et l’individu accusé de l’avoir aidée auraient préparé l’attaque à travers Discord..
En Colombie-Britannique (Canada), une tuerie a eu lieu à Tumbler Ridge. La tireuse, Jesse Van Rootselaar, et James Cody Bryant, accusé de l'avoir aidée à planifier l'attaque, auraient échangé pendant plusieurs mois sur la plateforme Discord. Ces échanges, révélés par des documents judiciaires, incluaient des discussions sur le choix des armes, des cibles, la logistique pour diffuser l'attaque en direct, et la coordination le jour J. Des photos d'armes utilisées par la tireuse ont également été partagées sur cette plateforme. Discord précise que ces échanges ont eu lieu dans un espace privé entre les deux individus. L'attaque a conduit à des poursuites contre OpenAI, la maison mère de ChatGPT, car le robot conversationnel aurait également aidé la tireuse à planifier l'attaque. Le FBI a inculpé James Cody Bryant pour complot en vue de commettre des meurtres dans un pays étranger.
Selon les documents judiciaires, Discord n'a identifié le compte de la tireuse qu'après le drame et a transmis le contenu des échanges au FBI. Un porte-parole de Discord a déclaré que la plateforme avait supprimé le compte du suspect pour violation de ses politiques et qu'elle collaborait avec les autorités. Discord affirme condamner fermement la violence et appliquer une politique de tolérance zéro envers les contenus ou comportements violents. Cependant, Mathieu Colin, directeur scientifique de la Chaire UNESCO en prévention de la radicalisation, souligne que la modération de Discord repose en partie sur des bénévoles et des outils d'intelligence artificielle, ce qui s'avère insuffisant pour endiguer certains types de contenus, notamment les discussions privées entre deux personnes. Discord compte 700 millions d'utilisateurs, dont environ 250 millions actifs.
Heidi Tworek, professeure à l'Université de Colombie-Britannique, explique que les plateformes comme Discord ne sont pas obligées de signaler aux forces de l'ordre les contenus préjudiciables publiés par leurs utilisateurs. Cette absence d'obligation s'explique par des craintes de signalements excessifs et de surveillance des groupes vulnérables. Emily Laidlaw, titulaire d'une chaire en droit de la cybersécurité à l'Université de Calgary, précise que la réglementation des messageries privées est controversée en raison des risques pour la vie privée. Bien qu'il n'existe pas d'obligation légale de signalement pour les contenus violents comme ceux de l'affaire de Tumbler Ridge, elle reconnaît qu'il s'agit d'un manquement et que les faits auraient dû être signalés à la police. Les plateformes sont soumises à des obligations uniquement pour les contenus pédopornographiques.
Mathieu Colin souligne que la modération de Discord, basée sur des bénévoles et des outils d'IA, est régulièrement critiquée pour son inefficacité à détecter certains contenus violents. Les discussions privées entre deux utilisateurs, comme dans l'affaire de Tumbler Ridge, échappent souvent à la surveillance automatisée. La plateforme compte 700 millions d'utilisateurs, ce qui rend la tâche de modération encore plus complexe. Les experts interrogés estiment que les plateformes devraient renforcer leurs mécanismes de détection et de signalement, tout en respectant la vie privée des utilisateurs. Cette affaire met en lumière les limites des politiques actuelles de modération en ligne et les défis liés à la régulation des contenus violents sur les réseaux sociaux.
