En Europe, OpenAI tatoue les textes de ChatGPT pour se conformer à l’AI Act
OpenAI déploie son outil de filigrane sur le texte généré par ChatGPT. Cette fonctionnalité, réservée au Vieux continent en vertu de l’AI Act, demeure une solution imparfaite à un problème complexe.
L’AI Act est un règlement européen entré en vigueur début août 2026 qui impose aux systèmes d’intelligence artificielle (IA) de respecter des règles strictes pour être commercialisés dans l’Union européenne. Parmi ces obligations figure l’obligation de permettre l’identification des textes générés par des outils comme ChatGPT. Cette identification, appelée filigrane ou watermark, consiste à intégrer un signal invisible dans le texte pour prouver son origine artificielle. Les entreprises ont jusqu’au 2 décembre 2026 pour se conformer à ces exigences. L’objectif est de lutter contre la désinformation et de garantir la transparence sur l’utilisation de l’IA dans la production de contenus.
OpenAI a développé une technologie nommée textGrain pour répondre à l’obligation du filigrane. Ce système ajoute un signal statistique invisible dans les textes générés par ChatGPT. Concrètement, il modifie subtilement les choix de mots effectués par le modèle lors de la rédaction. Par exemple, entre deux synonymes possibles, le système privilégie systématiquement l’un d’eux de manière à créer un motif reconnaissable par un détecteur. Ce motif reste invisible pour un lecteur humain et n’ajoute aucun caractère caché ou espace invisible. La technique est similaire à celle utilisée par Anthropic pour son modèle Claude. textGrain est disponible dès maintenant dans l’API d’OpenAI, mais uniquement dans l’Union européenne.
L’efficacité du filigrane textGrain varie selon les langues. OpenAI a testé 500 prompts générés en anglais, puis traduits dans plusieurs langues. Les résultats montrent que l’espagnol obtient le meilleur taux de détection avec 69 %, tandis que le roumain affiche le taux le plus faible à 42,2 %. Le français, avec un taux supérieur à 60 %, se situe entre l’espagnol et l’anglais. OpenAI propose un paramètre pour ajuster l’intensité du signal, ce qui permet d’améliorer le taux de détection pour certaines langues initialement moins performantes. L’entreprise prévoit de rendre cette technologie accessible en open source pour favoriser son adoption.
Malgré ses avantages, le filigrane textGrain présente des limites. OpenAI souligne que les détecteurs peuvent commettre deux types d’erreurs : les faux positifs (détecter un filigrane inexistant) et les faux négatifs (ne pas repérer un filigrane existant). Sur des passages de 400 tokens (environ 300 mots), avec un taux de faux positifs fixé à 1 %, le détecteur identifie correctement un filigrane dans 95 % des cas. Cependant, ce taux varie selon le contenu : il est très élevé pour des textes sur la psychologie, mais beaucoup plus faible pour des contenus mathématiques, où le choix des mots est limité. De plus, modifier un texte généré par IA réduit l’efficacité du filigrane. Par exemple, remplacer 10 % des mots par des synonymes fait chuter le taux de détection de 92 % à 66 %, et ce taux tombe à 17 % si 25 % des mots sont modifiés.
Le filigrane textGrain ne permet pas de répondre à toutes les questions liées à l’origine d’un texte. Il indique simplement qu’un texte a été généré ou modifié par un modèle d’IA, sans préciser qui en est l’auteur ou le responsable. Il ne mesure pas non plus la contribution humaine dans la rédaction du texte, ni sa fiabilité. Enfin, l’absence de filigrane ne prouve pas qu’un texte a été écrit par un humain. textGrain sera déployé dans ChatGPT et Codex dans les prochaines semaines, mais l’outil de détection reste réservé aux chercheurs et organisations sélectionnés pour améliorer sa fiabilité. Cette technologie ne constitue donc qu’une première étape vers une transparence accrue, sans résoudre tous les enjeux liés à l’IA.
