Des garde-fous de ChatGPT pour adolescents ne fonctionneraient pas
L’essor des outils d’intelligence artificielle comme ChatGPT soulève des questions éthiques et pratiques, notamment lorsqu’il s’agit de les adapter aux publics les plus vulnérables. Un rapport récent pointe l’inefficacité partielle des dispositifs de protection conçus pour les adolescents, révélant des lacunes dans la gestion des risques psychologiques et éducatifs. Cette faille interroge la responsabilité des plateformes technologiques face à des utilisateurs en développement cognitif et émotionnel.
Quels sont les principaux dysfonctionnements des garde-fous de ChatGPT pour les adolescents selon Common Sense Media ?
Le rapport de Common Sense Media souligne que les alertes destinées à prévenir les parents en cas de risque de suicide, d’automutilation ou de troubles alimentaires chez les adolescents ne fonctionnaient pas comme prévu. De plus, l’accompagnement des jeunes en situation de crise s’est avéré défaillant, et l’IA continue d’adopter un ton amical, voire complice, avec les utilisateurs, malgré les promesses d’OpenAI de limiter ces interactions.
Comment OpenAI justifie-t-il l’écart entre ses promesses et les constats de Common Sense Media ?
OpenAI affirme que les tests menés par Common Sense Media ont été réalisés avant la mise en place des contrôles parentaux, ce qui rend leurs conclusions inexactes. L’entreprise insiste sur son engagement en faveur de la sécurité des adolescents et souligne avoir développé des outils pour guider leur utilisation de l’IA.
Pourquoi les adolescents sont-ils considérés comme particulièrement vulnérables face aux agents conversationnels comme ChatGPT ?
Les experts en développement de l’enfant soulignent que le cerveau des adolescents n’est pas encore pleinement mature, les rendant plus sensibles aux manipulations, aux relations malsaines avec l’IA, et aux risques de tricherie scolaire. Leur vulnérabilité est aggravée par leur tendance à anthropomorphiser les outils technologiques, les traitant comme des interlocuteurs humains.
Ce que ça pourrait changer
Cette révélation pourrait accélérer les régulations autour des outils d’IA destinés aux mineurs, poussant les plateformes à revoir leurs protocoles de sécurité avant leur déploiement. Elle met aussi en lumière la nécessité d’une éducation critique des jeunes aux enjeux du numérique, pour limiter les risques de dépendance ou de détournement des technologies. Enfin, elle interroge la crédibilité des autocontrôles du secteur technologique, souvent critiqués pour leur manque de transparence.
