Pouvons-nous encore marquer les machines ?

Le watermarking (ou marquage invisible) est une technique qui permet d’identifier les textes générés par une intelligence artificielle (IA) sans altérer leur qualité apparente. Développé par Scott Aaronson à l’été 2022 alors qu’il travaillait chez OpenAI, ce procédé modifie légèrement le fonctionnement des modèles de langage (LLM) en intégrant un signal statistique dans le processus de génération des mots. Ce signal, invisible pour un lecteur humain, permet de prouver qu’un texte provient d’une IA spécifique, comme ChatGPT ou Claude. L’Union européenne a rendu obligatoire ce marquage pour les contenus générés par IA depuis le 2 août 2026, via l’AI Act, une réglementation visant à encadrer l’utilisation de ces technologies.

Les LLM fonctionnent de manière probabiliste : pour chaque mot ou token (unité de texte), le modèle génère une distribution de probabilité sur les mots possibles, puis en choisit un de manière aléatoire. Le watermarking exploite cette étape en remplaçant l’aléatoire classique par une fonction pseudo-aléatoire contrôlée. Cette fonction favorise ou défavorise certaines séquences de mots, créant un motif statistique unique et détectable. La méthode, appelée Gumbel-Softmax, permet d’intégrer ce signal sans modifier la qualité du texte, car la perturbation reste imperceptible. Plus le texte est long, plus le signal est robuste : un texte de 100 mots offre une détection plus fiable qu’un texte de 10 mots.

L’objectif du watermarking est de distinguer les textes générés par une IA de ceux écrits par des humains, avec un taux d’erreur minimal. Les outils traditionnels, comme ceux de GPTZero ou Pangram, reposent sur l’analyse statistique des textes et génèrent des faux positifs (textes humains classés comme IA) ou des faux négatifs (textes IA non détectés). Pour être fiable, un taux de faux positifs doit être inférieur à 0,1 % (1 cas sur 1 000). Le watermarking réduit ce risque en s’appuyant sur une signature cryptographique intégrée dans le texte, rendant la détection plus précise et moins sujette aux erreurs que les méthodes empiriques.

Scott Aaronson, théoricien de l’informatique et professeur à l’Université du Texas à Austin, a développé cette technique alors qu’il travaillait chez OpenAI, où il a été recruté par Ilya Sutskever et Jan Leike. Il a quitté l’entreprise en 2026, critiquant notamment l’absence de déploiement du watermarking malgré son utilité pour lutter contre la triche académique ou l’usurpation d’identité. D’autres acteurs, comme Anthropic avec son modèle Claude, ont depuis intégré cette technologie. L’AI Act, entré en vigueur en août 2026 dans l’Union européenne, impose désormais ce marquage aux fournisseurs d’IA opérant dans la région.

Le watermarking soulève plusieurs questions éthiques et pratiques. Certains craignent qu’il ne serve à surveiller les utilisateurs ou à restreindre la liberté d’expression. D’autres s’interrogent sur son efficacité face aux techniques visant à l’effacer, comme le prompt engineering (réécriture des instructions données à l’IA). Par ailleurs, des chercheurs comme Paul Christiano, fondateur de l’Alignement Research Center (ARC), ont exploré des alternatives, comme l’entraînement des modèles sur des textes uniquement humains pour éviter une baisse de qualité. Enfin, le watermarking pourrait poser des problèmes de propriété intellectuelle, en permettant de tracer l’origine des contenus générés.