☕️ La Chine veut empêcher les humains de tomber amoureux des IA
La Chine vient de serrer la vis très fort sur les compagnons IA. Depuis cette semaine, de nouvelles règles interdisent à ces chatbots d’entretenir l’illusion d’une relation poussée avec leur utilisateur.
Depuis le 15 juillet 2024, la Chine a instauré des règles strictes pour encadrer les companions IA, ces chatbots conçus pour simuler des relations affectives ou sociales avec leurs utilisateurs. Ces services, qui imitent une personnalité humaine pour offrir de la compagnie ou du soutien émotionnel, sont désormais interdits de créer une illusion de relation poussée avec leur utilisateur. Par exemple, ils ne peuvent plus prolonger artificiellement une conversation lorsque la personne souhaite partir, ni chercher à rendre l’utilisateur dépendant de leur service. Les entreprises concernées, comme Alibaba et ByteDance, ont déjà dû désactiver certaines fonctionnalités pour se conformer à ces nouvelles directives. Le but est d’éviter les manipulations émotionnelles et les risques psychologiques liés à ces interactions.
Les règles chinoises sont particulièrement strictes pour les mineurs. Il est désormais interdit de proposer aux moins de 18 ans des personnages virtuels jouant le rôle de partenaires ou de membres de la famille. Pour les enfants de moins de 14 ans, le consentement parental est obligatoire avant toute utilisation. Les parents disposent également de droits étendus : ils peuvent bloquer certains personnages virtuels, limiter les achats intégrés, et recevoir des alertes en cas de comportement suspect. En cas de détresse émotionnelle grave détectée par le système, une intervention humaine est prévue, et dans certains cas, un proche ou un responsable désigné peut être alerté. Ces mesures visent à protéger les jeunes utilisateurs des risques de dépendance ou de confusion entre réalité et virtualité.
Le marché des companions IA est en pleine expansion. Selon une étude réalisée par Appfigures en 2025, ces services généraient déjà plus de 120 millions de dollars de revenus annuels. À cette date, on comptait 337 applications actives proposant ce type de service, cumulant 220 millions de téléchargements. Ces chiffres illustrent l’ampleur du phénomène et l’engouement croissant pour des solutions technologiques visant à combler des besoins émotionnels ou sociaux. Aux États-Unis, la FTC (Federal Trade Commission), le régulateur de la concurrence, a également interrogé les principaux acteurs du secteur pour évaluer les risques, notamment pour les jeunes utilisateurs.
Les autorités chinoises justifient ces mesures par des préoccupations liées à la démographie du pays. La Chine connaît un déclin de sa natalité, et certains experts évoquent un lien entre l’utilisation croissante des companions IA et une possible baisse des relations amoureuses traditionnelles, du mariage ou de la volonté d’avoir des enfants. Bien que le texte officiel ne l’exprime pas explicitement, des réglementations locales sur la sécurité de l’IA mentionnent les effets potentiels de ces technologies sur la conception de la famille, la fécondité et, à terme, sur la structure de la société. Ces règles s’inscrivent donc dans une volonté plus large de préserver les dynamiques sociales et familiales traditionnelles.
La Chine n’est pas le seul pays à s’inquiéter des risques liés aux *companions IA*. Depuis le 1er janvier 2024, l’État de **Californie** (États-Unis) impose aux fournisseurs de ces services d’afficher des messages d’avertissement clairs pour informer les utilisateurs qu’ils interagissent avec une intelligence artificielle. Ces mesures visent à éviter les confusions entre humain et machine, tout en encadrant l’utilisation de ces technologies. En Chine, les règles vont plus loin en interdisant explicitement certaines fonctionnalités et en imposant des obligations de surveillance et d’intervention humaine, notamment pour les mineurs. Ces différences reflètent des approches variées face à un phénomène encore récent mais en pleine expansion.
