Qui se cache vraiment derrière l’affaire Thélyson Orélien ?

L’affaire Thélyson Orélien a été révélée par le collectif Balance ton Claude, fondé entre autres par Pierre-Thomas Eckert, docteur en philosophie morale et chercheur en méta-éthique à l’Université Villanueva de Madrid. Ce collectif, créé avec Samuel Fitoussi et d’autres internautes, a pour objectif de lutter contre la pollution de l’écriture par les contenus générés par intelligence artificielle (IA). Initialement, ses membres avaient choisi l’anonymat pour que l’analyse des faits prime sur les personnes. Eckert explique que Thélyson Orélien et son livre ne sont qu’un exemple parmi d’autres de la prolifération de contenus IA délétères pour la société. Le collectif a utilisé l’outil de détection Pangram v.4, dont la fiabilité avait été confirmée par des études indépendantes, pour étayer ses affirmations.

L’article souligne un danger majeur : l’impact de l’IA sur la production universitaire et académique. Actuellement, notre système de validation des connaissances repose sur la confiance en l’autorité épistémique des chercheurs, qui écrivent et vérifient eux-mêmes leurs travaux. Les revues scientifiques utilisent un processus d’évaluation par les pairs (peer review), basé sur une présomption de bonne foi et non sur une vérification systématique. Or, les IA génératives comme Claude ou ChatGPT peuvent produire des textes académiques de qualité apparente, difficiles à détecter. Elles peuvent aussi falsifier des données ou générer des références inexistantes, sans laisser de traces évidentes. Cette situation menace la crédibilité de l’ensemble du système académique.

La confiance dans les travaux universitaires repose sur un pari moral implicite : les auteurs effectuent eux-mêmes les recherches, vérifient les calculs et lisent les sources citées. Les évaluateurs, limités par le temps, font confiance aux chercheurs sans pouvoir tout contrôler. Cependant, l’IA remet en cause ce système. Les dernières versions des grands modèles de langage (LLM) produisent des textes académiques quasi indétectables, même après une lecture attentive. Les hallucinations, autrefois grossières, deviennent rares, et l’IA peut générer des données falsifiées sans laisser de traces. Sans mesures strictes, le risque est une généralisation de l’affaire Sokal, où des contenus absurdes ou frauduleux seraient publiés dans des revues scientifiques.

L’utilisation massive de l’IA dans la rédaction académique pose un problème pratique : les évaluateurs, submergés par des milliers de soumissions, n’ont ni le temps ni les moyens de vérifier chaque détail. Si un texte peut être généré en quelques heures par une IA, pourquoi un chercheur passerait-il des années à rédiger un article ? Le processus d’évaluation par les pairs, déjà fragilisé, deviendrait ingérable. Les jeunes chercheurs honnêtes seraient particulièrement pénalisés, car leur travail serait indissociable de celui produit par une IA. Sans incitations claires, les vocations pourraient diminuer, menaçant la pérennité du système académique.

L’article insiste sur le fait que l’université ne se limite pas à produire des affirmations vraies : elle forme aussi des esprits rigoureux et intègres. Des vertus comme la patience, la persévérance ou l’autonomie réflexive s’acquièrent par un long processus d’apprentissage, souvent guidé par un mentor. L’IA, en automatisant la rédaction, court-circuite ce développement. Par exemple, utiliser une IA pour rédiger un résumé ou une note évite à l’étudiant ou au chercheur de s’exercer à synthétiser et à reformuler. À long terme, cela affaiblit les compétences cognitives et morales essentielles à la recherche. Comme le souligne le philosophe Eric Schwitzgebel, il existe une différence majeure entre lire un texte et le rédiger soi-même : la compréhension et la précision s’en trouvent altérées.

Les partisans de l’IA avancent que son utilisation accélère les découvertes scientifiques en exploitant rapidement un vaste gisement de connaissances. Cependant, cette vision ignore une étape clé : la vérification par des pairs compétents. Si un texte est généré par une IA sans évaluation humaine rigoureuse, comment garantir sa validité ? Les LLM actuels, malgré leur puissance, restent opaques et leur alignement avec nos valeurs morales est déjà questionnable. Le risque est un délestage massif de nos capacités cognitives (cognitive offloading) au profit de l’IA, ce qui pourrait affaiblir durablement notre autonomie intellectuelle. Eckert souligne que cette tendance n’est pas marginale : certains chercheurs, même établis, utilisent l’IA pour rédiger intégralement des articles, transformant une simple aide en un outil de substitution.