« Un tatouage numérique » : ChatGPT se dote d’un filigrane invisible sur les textes générés par IA
OpenAI a annoncé l’incorporation d’un filigrane numérique dans les textes générés par ChatGPT et Codex. De quoi repérer plus facilement l’intervention de la machine..
OpenAI, l'entreprise derrière ChatGPT, a annoncé l'ajout d'un filigrane numérique invisible dans les textes générés par son intelligence artificielle. Cette innovation, nommée textGrain, permet de marquer automatiquement les contenus produits par la machine. Contrairement à un filigrane visible superposé au texte, cette technologie repose sur des modifications subtiles dans le choix et l'ordre des mots, rendant le signal indétectable pour un humain mais identifiable par des outils spécifiques. L'objectif est de répondre à la réglementation européenne sur la transparence des contenus générés par IA, déjà appliquée aux images et vidéos. Cette mesure vise à clarifier l'origine des textes, un enjeu croissant avec l'augmentation de l'usage des IA dans des domaines comme l'éducation ou le recrutement.
Le filigrane textGrain fonctionne en ajoutant un signal statistique invisible aux choix de mots du modèle d'OpenAI. Ce signal est intégré de manière à ne pas altérer la qualité ou la lisibilité du texte généré. Pour le détecter, un outil spécifique analyse les motifs statistiques du texte et détermine s'il contient le filigrane d'OpenAI. Cependant, cette technologie présente des limites : les textes courts de moins de 200 mots sont plus difficiles à analyser, et la modification de 10 % du contenu d'un texte de 400 mots réduit le taux de détection de 99 % à 66 %. Ces contraintes soulignent la nécessité d'améliorer la robustesse du système pour une utilisation généralisée.
Cette innovation s'inscrit dans le cadre de la nouvelle loi européenne sur la transparence des contenus générés par IA, entrée en vigueur récemment. L'Union européenne impose désormais de marquer clairement les productions issues de l'intelligence artificielle, une mesure déjà appliquée aux images et vidéos. OpenAI se conforme à cette réglementation en étendant cette obligation aux textes. Le déploiement initial de cette fonctionnalité concernera uniquement les développeurs, avant d'être progressivement accessible aux utilisateurs de ChatGPT dans l'UE. À terme, cette technologie pourrait devenir un standard pour distinguer les contenus humains des productions automatisées.
L'ajout d'un filigrane numérique répond à un besoin croissant de transparence dans un monde où les IA sont de plus en plus utilisées pour produire du contenu. Par exemple, des cas comme celui du roman C’était ça ou mourir, suspecté d'avoir été écrit par une IA, illustrent les défis posés par l'identification des textes automatisés. Cependant, cette technologie n'est pas infaillible : les textes courts ou partiellement réécrits par des humains peuvent échapper à la détection. OpenAI reconnaît ces limites et travaille à améliorer la fiabilité de son système. À long terme, cette innovation pourrait devenir un outil essentiel pour les employeurs, les enseignants ou les plateformes en ligne confrontés à la prolifération des contenus générés par IA.
Pour l'instant, le filigrane numérique n'est disponible que pour les développeurs et ne sera pas activé par défaut lors de son lancement. OpenAI prévoit de le déployer progressivement auprès des utilisateurs de ChatGPT dans l'Union européenne. Cette approche permet d'évaluer l'efficacité du système et d'apporter des ajustements avant une généralisation. La société californienne n'a pas précisé de date exacte pour le déploiement grand public, mais cette mesure s'inscrit dans une stratégie plus large visant à renforcer la confiance dans les outils d'IA. À terme, cette technologie pourrait être intégrée à d'autres modèles d'OpenAI, comme Codex, utilisé par les développeurs pour générer du code.
