Pouvons-nous encore marquer les machines ?

Le watermarking (ou marquage invisible) est une technique qui permet d’identifier les textes générés par une intelligence artificielle (IA) sans altérer leur qualité apparente. Développée par Scott Aaronson en 2022 chez OpenAI, cette méthode repose sur l’ajout d’un signal statistique discret dans le processus de génération de texte des modèles de langage (LLM). Concrètement, les LLM fonctionnent en choisissant chaque mot ou token (unité de texte) selon une distribution de probabilité. Aaronson a modifié cette distribution en intégrant une fonction pseudo-aléatoire cryptographique, favorisant ou défavorisant certaines séquences de mots de manière imperceptible pour un lecteur humain. Ainsi, un texte marqué reste identique en apparence, mais contient une signature unique permettant de prouver son origine artificielle. Cette approche a été adoptée par des laboratoires comme Anthropic, qui l’a intégrée dans son modèle Claude en 2026, sous l’impulsion de l’AI Act européen imposant la détection des contenus générés par IA.

L’AI Act, entré en vigueur le 2 août 2026 dans l’Union européenne, impose aux fournisseurs d’IA de rendre détectables les contenus générés par leurs modèles. Ce cadre réglementaire a accéléré l’adoption du watermarking, mais soulève plusieurs questions éthiques et techniques. D’abord, cette méthode pourrait servir à distinguer les textes humains des textes générés par IA, limitant ainsi la triche académique ou l’usurpation d’identité. Cependant, son utilisation pose des défis : elle pourrait aussi permettre aux laboratoires de filtrer les données d’entraînement pour éviter que leurs modèles ne se dégradent en apprenant sur des contenus générés par IA. Par ailleurs, la robustesse du watermarking est remise en cause par des techniques conçues pour l’effacer, et son déploiement massif pourrait soulever des débats sur la propriété intellectuelle et la vie privée des utilisateurs.

Le watermarking exploite l’entropie (incertitude) intrinsèque des LLM lors de la génération de texte. Chaque token est choisi selon une distribution de probabilité, ce qui introduit une marge de manœuvre dans le choix des mots. Aaronson a remplacé cette entropie naturelle par une fonction pseudo-aléatoire contrôlée, favorisant certaines séquences de mots tout en maintenant une apparence aléatoire. Par exemple, une séquence de cinq mots consécutifs peut être privilégiée, tandis qu’une autre est évitée. Ce signal reste invisible pour un lecteur, mais peut être détecté statistiquement à partir du texte seul. La méthode, appelée schéma Gumbel-Softmax, a été prouvée mathématiquement : elle permet d’incorporer un marquage sans dégrader la qualité des réponses, avec une indistinguabilité cryptographique. Plus le texte est long, plus le signal est robuste, car la probabilité d’erreur diminue avec le nombre de tokens analysés.

Malgré ses avantages, le watermarking soulève des controverses. Certains craignent qu’il ne serve principalement à éviter que les modèles ne s’entraînent sur des contenus générés par IA, ce qui pourrait réduire leur performance. D’autres s’interrogent sur son efficacité face à des attaques visant à le supprimer, ou sur son utilisation comme outil de surveillance. Par exemple, des outils comme GPTZero ou Pangram tentent déjà de détecter les textes générés par IA, mais avec un taux de faux positifs trop élevé pour être fiable dans des contextes critiques comme l’éducation. Enfin, des acteurs comme OpenAI ont longtemps hésité à déployer cette technologie, arguant que la priorité devait être la sécurité globale de l’IA plutôt que des problèmes comme la triche académique. Ces débats illustrent les tensions entre innovation, éthique et régulation dans le domaine de l’IA.

Scott Aaronson, théoricien de l’informatique et spécialiste de la complexité et du calcul quantique, a rejoint OpenAI en 2022 après une carrière au MIT et à l’Université du Texas à Austin. Lauréat du ACM Prize in Computing en 2020 et élu à la National Academy of Sciences en 2026, il a développé le watermarking des LLM peu après son arrivée. Son travail s’inscrit dans une réflexion plus large sur la sécurité de l’IA, notamment via des approches comme les constitutions (principes éthiques intégrés aux modèles) ou l’apprentissage par renforcement. Aaronson a également été confronté à des défis personnels, comme une campagne de harcèlement en ligne en 2022, qui a renforcé sa méfiance envers les informations non vérifiées. Son départ d’OpenAI, sous la direction de Sam Altman, reflète les tensions entre recherche académique et objectifs industriels dans le domaine de l’IA.