Meta va alerter les parents si leur enfant aborde le sujet du suicide

Meta Platforms, la société mère de Facebook, Instagram, WhatsApp et Messenger, a annoncé le lancement de nouveaux outils conçus pour prévenir les risques de suicide ou d’automutilation chez les jeunes utilisateurs. Ces mesures s’appuient sur l’intelligence artificielle (IA) pour détecter des conversations préoccupantes. Lorsqu’un adolescent discute avec l’agent conversationnel Meta AI d’Instagram et évoque le suicide ou l’automutilation, un système d’alerte est déclenché. Les parents, via les outils de contrôle parental d’Instagram, reçoivent une notification pour les informer du risque. Parallèlement, Meta met en place un mécanisme permettant de contacter les services d’urgence si la situation semble urgente. Ces outils visent à agir rapidement pour protéger les jeunes en détresse, dans un contexte où les réseaux sociaux sont parfois utilisés comme espace d’expression pour des pensées suicidaires.

Shauna Pomerantz, professeure à l’Université Brock en Ontario spécialisée dans les études sur l’enfance et la jeunesse, salue ces nouvelles mesures comme un progrès, car elles répondent à un besoin réel : de nombreux jeunes utilisent les réseaux sociaux pour évoquer des idées suicidaires ou des comportements d’automutilation. Cependant, elle souligne une limite majeure : les jeunes, souvent très débrouillards, pourraient contourner ces dispositifs en utilisant un langage codé ou des expressions indirectes pour éviter d’être détectés par l’IA. Cette stratégie de contournement rend les outils de détection imparfaits, même si Meta affirme avoir amélioré leur précision. Le défi reste donc de taille, car l’efficacité de ces alertes dépend en grande partie de la capacité des jeunes à exprimer leurs difficultés de manière explicite.

Ces nouvelles fonctionnalités de Meta s’inscrivent dans un cadre plus large de régulation des réseaux sociaux au Canada. Le gouvernement fédéral prépare en effet une nouvelle législation visant à imposer des exigences de sécurité strictes aux plateformes en ligne, y compris les services d’agents conversationnels basés sur l’IA. Cette loi, encore en discussion, cherche à protéger les jeunes utilisateurs des contenus dangereux ou préjudiciables. Meta, en anticipant ces règles, montre une volonté de se conformer aux futures obligations légales, tout en renforçant sa réputation en matière de sécurité. Le Canada rejoint ainsi d’autres pays qui durcissent leur réglementation face aux risques liés aux réseaux sociaux, notamment pour les populations vulnérables.