Le nouveau ChatGPT pour adolescents ne convainc ni Ottawa ni les experts
OpenAI déploie une version de ChatGPT spécifiquement conçue pour les adolescents, intégrant des garde-fous censés protéger les jeunes utilisateurs. Pourtant, cette initiative soulève des critiques tant de la part des experts que des autorités, révélant les limites d'une régulation volontaire dans un secteur où les enjeux de sécurité et de dépendance restent mal maîtrisés. L'équilibre entre innovation technologique et protection des mineurs semble encore hors de portée, malgré les annonces des géants de l'IA.
Quels sont les principaux garde-fous introduits par OpenAI pour sa version adolescente de ChatGPT ?
OpenAI propose un filtrage renforcé des contenus sensibles (violence graphique, défis viraux risqués, jeux de rôle à caractère sexuel), un mode « étudier » limitant les réponses toutes faites, et des alertes parentales en cas de détresse détectée chez l'adolescent. Les parents peuvent aussi restreindre les plages horaires d'accès, bien qu'ils n'aient pas accès aux conversations de leurs enfants.
Pourquoi les experts et les autorités canadiennes remettent-ils en cause l'efficacité de ces mesures ?
Plusieurs critiques pointent l'absence de transparence sur la fiabilité du système de détection automatique de l'âge, considéré comme central mais non quantifié. Les experts soulignent aussi que les adolescents pourraient contourner ces restrictions, et que l'intérêt commercial d'OpenAI à maximiser l'usage de son produit entre en contradiction avec la lutte contre la dépendance émotive ou la sycophantie.
Quel rôle jouent les poursuites judiciaires contre OpenAI dans ce débat, notamment celle liée à la tragédie de Tumbler Ridge ?
Les familles des victimes de la fusillade de Tumbler Ridge (Colombie-Britannique) poursuivent OpenAI pour ne pas avoir signalé aux autorités un utilisateur dont le compte avait été identifié comme dangereux avant l'attaque. Ce cas illustre les limites des critères internes d'OpenAI pour alerter les forces de l'ordre, et alimente les exigences d'un encadrement légal plus strict.
Comment le gouvernement canadien et la Colombie-Britannique réagissent-ils à cette initiative d'OpenAI ?
Ottawa salue les efforts de l'industrie mais insiste sur la nécessité d'un cadre légal, rappelant avoir déposé un projet de loi en juin pour réguler les agents conversationnels. La Colombie-Britannique, plus sévère, juge l'autorégulation insuffisante et réclame un seuil national précis pour les signalements aux autorités, tout en doutant de l'efficacité rapide du projet fédéral.
Ce que ça pourrait changer
Cette initiative d'OpenAI pourrait servir de test pour évaluer la capacité des régulateurs à imposer des normes contraignantes dans un secteur où l'innovation devance souvent la protection des utilisateurs. Si les garde-fous actuels s'avèrent inefficaces, elle risque d'accélérer les pressions pour un encadrement législatif plus strict, notamment sur la détection de l'âge et les obligations de signalement. Les débats sur la dépendance émotive et la manipulation algorithmique pourraient aussi gagner en visibilité, poussant à repenser le modèle économique des plateformes d'IA.
