« C'est comme traquer un micro-organisme dans une botte de foin » : le CNRS alerte sur l'usage de l'IA générative dans les publications scientifiques

Le CNRS (Centre National de la Recherche Scientifique) a publié une mise en garde concernant l’utilisation croissante de l’intelligence artificielle générative dans les publications scientifiques. Selon l’institution, cette pratique rendrait extrêmement difficile la détection d’erreurs, de manipulations ou de contenus inventés dans les articles. Le CNRS compare cette situation à traquer un micro-organisme dans une botte de foin, soulignant l’ampleur du défi. L’IA générative désigne des outils capables de produire du texte, des images ou des données de manière autonome, comme les modèles de langage avancés (ex. : ChatGPT, Claude). Leur intégration dans la recherche pose un problème de fiabilité, car ces systèmes peuvent générer des informations plausibles mais fausses, appelées hallucinations, sans que les chercheurs ou les relecteurs ne s’en aperçoivent facilement. Le CNRS met en lumière un risque accru de désinformation scientifique, où des études fondées sur des données erronées pourraient influencer des décisions médicales, politiques ou industrielles.

L’utilisation de l’IA générative dans les publications scientifiques soulève plusieurs problèmes majeurs. D’abord, ces outils peuvent produire des textes en apparence cohérents mais contenant des erreurs factuelles ou des données inventées, difficiles à repérer même pour des experts. Par exemple, une étude pourrait citer des références scientifiques inexistantes ou des résultats de recherches non réalisées, sans que les auteurs ou les comités de relecture ne le détectent. Ensuite, l’IA peut biaiser les résultats en favorisant certaines hypothèses ou en omettant des éléments contradictoires, ce qui fausse la rigueur scientifique. Enfin, l’automatisation de la rédaction réduit le temps consacré à la vérification manuelle des sources, augmentant ainsi le risque de propagation de fausses informations. Le CNRS souligne que ces dérives pourraient éroder la confiance du public dans la science, déjà fragilisée par la désinformation en ligne.

Les systèmes d’IA générative actuels, bien que performants, présentent des limites structurelles qui les rendent inadaptés à un usage scientifique rigoureux. Ils fonctionnent en analysant des motifs dans de vastes quantités de données textuelles, sans comprendre le sens profond des informations qu’ils génèrent. Cela les rend vulnérables aux hallucinations, c’est-à-dire à la production de contenus plausibles mais incorrects. Par exemple, un outil pourrait inventer une étude médicale fictive pour étayer une hypothèse, ou citer une revue scientifique inexistante. De plus, ces systèmes ne disposent pas de mécanismes de vérification critique : ils ne peuvent pas distinguer une source fiable d’une source douteuse, ni évaluer la qualité méthodologique d’une recherche. Le CNRS rappelle que la science repose sur la reproductibilité et la transparence, deux principes que l’IA générative menace directement.

Face à ces enjeux, le CNRS propose plusieurs pistes pour encadrer l’usage de l’IA dans la recherche. D’abord, il recommande d’imposer une transparence totale : les auteurs devraient déclarer explicitement l’utilisation de l’IA dans la rédaction de leurs articles, en précisant quelles parties du texte ont été générées ou modifiées par ces outils. Ensuite, il suggère de renforcer les comités de relecture en intégrant des experts capables d’identifier les signes d’une génération automatisée, comme des formulations inhabituelles ou des incohérences logiques. Enfin, le CNRS encourage les chercheurs à privilégier les méthodes traditionnelles pour les étapes clés de la recherche, comme la collecte de données ou l’analyse statistique, afin de limiter la dépendance à l’IA. Ces mesures visent à préserver l’intégrité scientifique tout en permettant une utilisation raisonnée de ces technologies.