Pour reconnaître les textes écrits par l’IA, Claude laissera une trace invisible
La première application concrète de l’AI Act pourrait transformer radicalement les usages des LLM et avoir des effets géopolitiques profonds. L’article Pour reconnaître les textes écrits par l’IA, Claude laissera une trace invisible est apparu en premier sur Le Grand Continent..
Depuis le 2 août 2026, l’AI Act, une loi européenne sur l’intelligence artificielle, impose aux entreprises de marquer les contenus générés par l’IA pour garantir leur transparence. L’article 50 de ce texte exige que les résultats produits par les systèmes d’IA, comme les textes ou les images, soient identifiables comme artificiels. Cette obligation s’applique à tous les modèles commercialisés en Europe depuis cette date. Par exemple, l’assistant IA Claude, développé par l’entreprise américaine Anthropic, va intégrer un système de marquage numérique invisible dans ses productions. Ce filigrane (watermark) permettra de distinguer les textes ou images générés par l’IA de ceux créés par des humains. L’objectif est de lutter contre la désinformation et de clarifier l’origine des contenus en ligne.
Le marquage mis en place par Claude prend deux formes : un filigrane invisible pour les textes et des métadonnées de provenance pour les images (SVG, PNG, JPG). Ces métadonnées, signées et lisibles par machine, indiquent que le contenu est généré ou manipulé par une IA. Cependant, ce système soulève des défis. Par exemple, les textes traduits, relus ou résumés par Claude pourraient aussi recevoir ce marquage, ce qui risquerait d’attribuer à tort la paternité d’un contenu à l’IA. De plus, une simple paraphrase du texte par un autre outil d’IA pourrait effacer le filigrane, rendant le contenu indétectable. Ces limites montrent que la technologie n’est pas encore infaillible.
Plusieurs acteurs du secteur ont déjà réagi à cette obligation. OpenAI, concurrent d’Anthropic, avait annoncé en 2024 l’intégration d’un filigrane similaire, mais avait reporté sa mise en œuvre après un sondage révélant que 30 % des utilisateurs auraient arrêté d’utiliser le modèle si cette fonctionnalité était activée. D’autres entreprises, comme Getty Images, ont signé le Code européen de bonnes pratiques sur la transparence des contenus générés par l’IA. Des plateformes comme LinkedIn, Snapchat ou Substack ont aussi développé des outils pour signaler les contenus générés par l’IA et limiter leur diffusion. Ces initiatives visent à renforcer la confiance des utilisateurs dans les contenus en ligne.
Les outils de détection des contenus générés par l’IA, comme ceux développés par Anthropic ou OpenAI, présentent des failles. Par exemple, l’outil UnMarker, créé en 2025 par des chercheurs de l’Université de Waterloo, permet déjà de supprimer les filigranes des images générées par l’IA. De plus, rendre public un outil de détection pourrait encourager les utilisateurs à trouver des moyens de contourner le système. Ces limites soulignent la difficulté de garantir une transparence totale. Malgré ces défis, l’AI Act et les initiatives des entreprises visent à établir un cadre pour distinguer les contenus humains des contenus artificiels.
Cette nouvelle réglementation pourrait avoir des effets géopolitiques profonds. Par exemple, le système de marquage pourrait servir à identifier les modèles d’IA développés à bas coût par des entreprises étrangères, comme celles basées en Chine, en utilisant une méthode appelée *distillation*. Cette technique consiste à interroger massivement un modèle avancé pour entraîner un autre modèle à partir de ses réponses. Le marquage permettrait donc de tracer l’origine des contenus et de vérifier si des entreprises contournent les règles en utilisant des méthodes moins transparentes. Ces enjeux montrent que l’*AI Act* pourrait influencer les dynamiques technologiques et économiques à l’échelle mondiale.
