En Europe, OpenAI tatoue les textes de ChatGPT pour se conformer à l’AI Act
L’Union européenne impose désormais aux systèmes d’IA générative de marquer leurs productions pour en tracer l’origine, une obligation qui pousse les acteurs du secteur à innover dans le filigrane invisible. OpenAI répond à cette contrainte avec textGrain, une technologie de marquage statistique des textes, mais ses limites soulèvent des questions sur l’efficacité réelle de ces dispositifs face aux stratégies de contournement ou aux nuances linguistiques. Cette course à la transparence technique interroge moins la faisabilité que la capacité des régulateurs à garantir une traçabilité fiable dans un écosystème où l’humain et la machine s’entremêlent.
Quelle est la nature exacte du filigrane intégré par OpenAI dans les textes générés par ChatGPT ?
OpenAI utilise une technique appelée textGrain qui modifie subtilement les choix lexicaux du modèle lors de la génération du texte. Ces ajustements créent un signal statistique invisible basé sur des motifs dans la sélection des mots ou fragments de mots, détectable par un outil dédié sans altérer la lisibilité pour l’humain ni ajouter de caractères ou symboles visibles.
Pourquoi certaines langues sont-elles plus faciles à détecter que d’autres avec cette technologie ?
Le taux de détection varie selon les langues en raison de leur structure lexicale et syntaxique. Par exemple, l’espagnol obtient un taux de détection de 69% contre 42,2% pour le roumain, tandis que le français dépasse les 60%. OpenAI explique que certaines langues offrent plus de variations lexicales, facilitant l’identification des motifs statistiques introduits par textGrain.
Quels sont les principaux écueils identifiés par OpenAI concernant l’efficacité du filigrane textGrain ?
OpenAI reconnaît deux limites majeures : d’abord, les textes courts (moins de 200 tokens) ou ceux portant sur des domaines comme les mathématiques, où le choix des mots est restreint, réduisent fortement la fiabilité du marquage. Ensuite, toute modification a posteriori du texte — comme le remplacement de synonymes — diminue drastiquement le taux de détection, passant de 92% à 17% si 25% des mots sont altérés.
Qui peut accéder à l’outil de détection des filigranes déployé par OpenAI, et dans quel cadre ?
L’outil de détection des filigranes reste pour l’instant réservé aux chercheurs et aux organisations sélectionnées par OpenAI, dans le cadre d’un projet visant à améliorer la fiabilité des dispositifs de traçabilité. La fonction textGrain elle-même est déjà disponible via l’API, mais uniquement activable dans l’Union européenne, où l’AI Act impose ces obligations depuis début août 2026.
Ce que ça pourrait changer
L’obligation de marquage technique imposée par l’AI Act pourrait renforcer la confiance dans les contenus générés par IA, mais elle risque aussi de créer une asymétrie entre les acteurs capables de contourner ces dispositifs et ceux qui les utilisent de bonne foi. À plus long terme, cette régulation pourrait accélérer l’adoption de normes sectorielles, tout en laissant planer des doutes sur la capacité des outils de détection à s’adapter aux évolutions des modèles d’IA.
