Pouvons-nous encore marquer les machines ?
L’introduction de watermarks invisibles dans les textes générés par intelligence artificielle, rendue obligatoire par l’AI Act européen depuis août 2026, soulève des questions bien plus profondes que la simple détection de contenus automatisés. Entre enjeux de transparence, de propriété intellectuelle et de fiabilité des modèles, cette technologie interroge la capacité des sociétés à marquer leur propre empreinte sur des artefacts désormais produits par des machines. Scott Aaronson, figure majeure de l’informatique théorique, revient sur les paradoxes d’une solution technique qui révèle l’épuisement des cadres traditionnels de la recherche en IA.
Quel est le principe technique du watermarking des textes générés par IA, et pourquoi son déploiement soulève-t-il des débats éthiques et pratiques ?
Le watermarking repose sur l’altération imperceptible du processus de génération de texte des grands modèles de langage (LLM), en y intégrant un signal statistique via une fonction pseudo-aléatoire. Ce signal permet de distinguer un texte produit par une IA d’un texte humain, sans dégrader la qualité de la réponse, car il exploite l’entropie naturelle des modèles. Cependant, son adoption divise : certains y voient un outil de lutte contre la désinformation ou la tricherie académique, tandis que d’autres craignent qu’il ne serve avant tout à filtrer les contenus pour l’entraînement des futurs modèles, au risque d’exacerber les biais ou de restreindre la liberté créative.
Pourquoi Scott Aaronson, théoricien de l’informatique, a-t-il quitté OpenAI après avoir contribué à développer le watermarking ?
Aaronson a quitté OpenAI en raison de divergences stratégiques et éthiques sur l’usage du watermarking, mais aussi de désillusions face à la direction prise par l’entreprise. Bien qu’il ait conçu cette technologie pour répondre à des enjeux concrets comme la fraude académique, ses propositions se sont heurtées à une vision plus large chez OpenAI, où la priorité était donnée à des risques existentiels (comme une IA incontrôlable) plutôt qu’à des problèmes immédiats comme la détection de textes générés. Son départ reflète aussi une critique plus large : la recherche en sécurité de l’IA, autrefois ancrée dans des cadres théoriques rigoureux, tend à devenir empirique et opportuniste.
Quelles limites techniques et philosophiques le watermarking révèle-t-il sur le fonctionnement des LLM et leur intégration dans la société ?
Techniquement, le watermarking suppose que les textes générés par IA contiennent suffisamment d’entropie pour y insérer un signal détectable, ce qui n’est pas toujours le cas pour des réponses courtes ou très structurées. Philosophiquement, il pose la question de la propriété des contenus générés : si une machine produit un texte, qui en est l’auteur ? L’outil interroge aussi la notion de confiance dans les systèmes automatisés, car il suppose que les utilisateurs accepteront de sacrifier une part de leur anonymat pour bénéficier de garanties sur l’origine des contenus.
Ce que ça pourrait changer
Le watermarking pourrait redéfinir les rapports de force entre créateurs humains et machines, en instaurant une hiérarchie où l’authenticité dépendrait de la capacité à inscrire une trace identifiable. À plus long terme, cette technologie risque d’accélérer la marchandisation des contenus générés, tout en rendant plus opaque la frontière entre production humaine et automatisée. Elle interroge enfin la capacité des régulateurs à concilier innovation et protection des droits, dans un contexte où les outils de contournement (comme les adversarial attacks) se multiplient.
