Pour qu'on puisse les identifier, les textes de ChatGPT vont intégrer des filigranes invisibles en Europe
Distinguer un texte écrit par une machine de celui d’un humain devient un casse-tête. Les images et les sons truqués se repèrent déjà par des marques cachées, le texte restait l’angle mort.
OpenAI, l'entreprise à l'origine de ChatGPT, va intégrer des filigranes invisibles dans les textes générés par son intelligence artificielle (IA) en Europe. Ces filigranes sont des marques numériques discrètes, insérées dans le texte, qui permettent d'identifier l'origine du contenu. Contrairement aux filigranes visibles, ceux-ci sont indétectables à l'œil nu et ne modifient pas la qualité ou le sens du texte produit. L'objectif est de lutter contre la désinformation et de distinguer clairement les textes générés par une IA de ceux rédigés par un humain. Cette mesure s'inscrit dans le cadre de la régulation européenne, notamment l'AI Act, une loi visant à encadrer l'utilisation des systèmes d'IA en Europe. OpenAI a annoncé cette initiative pour 2026, en réponse aux préoccupations croissantes concernant l'usage frauduleux ou trompeur des IA génératives.
Cette décision d'OpenAI fait suite à l'adoption progressive de l'AI Act par l'Union européenne, une législation historique qui vise à établir des règles strictes pour les systèmes d'IA. L'AI Act impose notamment aux développeurs de systèmes génératifs comme ChatGPT de garantir la transparence des contenus produits. Les filigranes invisibles répondent à cette exigence en permettant aux utilisateurs, aux plateformes ou aux autorités de vérifier l'origine d'un texte. En Europe, cette régulation est perçue comme un modèle pour d'autres régions du monde, où les débats sur l'encadrement des IA sont de plus en plus vifs. OpenAI, bien que basée aux États-Unis, se conforme volontairement à ces règles pour éviter des restrictions commerciales en Europe, un marché stratégique pour les technologies numériques.
L'intégration de filigranes invisibles soulève plusieurs enjeux majeurs. D'abord, elle répond à la problématique de la désinformation, où des textes générés par IA pourraient être utilisés pour manipuler l'opinion publique ou propager de fausses informations. Ensuite, elle permet de protéger les droits d'auteur et la propriété intellectuelle, en attribuant clairement la paternité d'un texte. Enfin, elle facilite le travail des plateformes comme les réseaux sociaux ou les médias, qui pourront filtrer ou signaler les contenus générés par IA. Cependant, cette technologie pose aussi des questions éthiques, notamment sur la vie privée et l'utilisation des données. OpenAI n'a pas encore détaillé les mécanismes exacts de ces filigranes, mais a indiqué qu'ils seraient conçus pour être robustes et difficiles à contourner.
La nouvelle a suscité des réactions variées parmi les experts et les acteurs du secteur. Certains saluent une avancée majeure pour la transparence, tandis que d'autres s'interrogent sur l'efficacité réelle de ces filigranes face à des utilisateurs malveillants capables de les supprimer ou de les altérer. Des organisations de défense des droits numériques appellent à une collaboration internationale pour standardiser ces méthodes et éviter des disparités entre les régions. OpenAI a précisé que cette technologie serait déployée progressivement, en commençant par les marchés européens avant une éventuelle extension à d'autres pays. L'entreprise a également souligné que ces filigranes ne collecteraient aucune donnée personnelle, respectant ainsi le *RGPD* (Règlement général sur la protection des données), la loi européenne sur la vie privée.
