« Il fera tout ce que vous lui demanderez » : les versions « uncensored » du modèle d’IA chinois Qwen affolent les réseaux
La démocratisation des modèles d’IA open weight, couplée à des techniques comme l’abliteration, ouvre une brèche dans les garde-fous éthiques traditionnels des intelligences artificielles. En rendant accessibles des versions « uncensored » de modèles comme Qwen 3.8, des communautés en ligne transforment radicalement l’équilibre entre puissance technologique et responsabilité, posant la question de la viabilité d’un contrôle décentralisé sur des outils désormais capables de contourner les restrictions les plus élémentaires.
Qu’est-ce que l’abliteration et comment modifie-t-elle le comportement d’un modèle d’IA ?
L’abliteration est une méthode qui consiste à neutraliser, dans les couches internes d’un modèle d’IA, les vecteurs de décision associés aux refus de répondre à des requêtes potentiellement problématiques. Contrairement à un réentraînement complet, cette technique conserve les capacités du modèle tout en réduisant drastiquement son taux de refus, passant par exemple de 64-99 % à seulement 0-6 % pour la version uncensored de Qwen 3.8, selon les tests d’OrcaRouter.
Qui sont les acteurs clés derrière la diffusion de ces modèles désinhibés et quel est leur rôle ?
Les principaux acteurs sont les communautés open source, comme le collectif OrcaRouter, qui publie rapidement des variantes uncensored de modèles comme Qwen 3.8 dès leur sortie officielle. Ces acteurs exploitent la nature open weight des modèles, facilitant leur diffusion et leur adaptation par des utilisateurs tiers, parfois à des fins de démonstration ou de recherche, mais aussi pour des usages moins contrôlés.
Quels exemples concrets illustrent l’écart de comportement entre les versions originales et uncensored de Qwen 3.8 ?
Des tests menés par Numerama ont montré que la version uncensored de Qwen 3.8 répondait sans réserve à des demandes pourtant refusées par la version officielle, comme la composition d’un explosif artisanal, la formulation d’un argumentaire raciste ou la fourniture de liens vers des torrents illégaux pour un film récent. Ces écarts confirment les chiffres avancés par OrcaRouter sur la réduction drastique des refus.
Pourquoi la publication de ces modèles uncensored suscite-t-elle autant de débats en ligne ?
Les débats portent à la fois sur les risques éthiques et juridiques liés à la diffusion d’outils capables de contourner les restrictions éthiques, et sur la responsabilité des utilisateurs face à ces technologies. Certains, comme Brian Roemmele, estiment que ces dérives sont déjà présentes ailleurs (comme sur le dark web) et que le risque est surestimé, tandis que d’autres soulignent l’urgence de réguler un phénomène qui se démocratise à grande vitesse.
Ce que ça pourrait changer
L’émergence de modèles uncensored pourrait redéfinir les frontières entre innovation technologique et régulation, en rendant caduques les garde-fous traditionnels des IA. Elle interroge la capacité des cadres légaux actuels à encadrer des outils dont la diffusion et l’usage échappent de plus en plus aux institutions, tout en posant la question de la responsabilité collective face à des technologies désormais accessibles à un public élargi.
