« C'est comme traquer un micro-organisme dans une botte de foin » : le CNRS alerte sur l'usage de l'IA générative dans les publications scientifiques

Le CNRS (Centre National de la Recherche Scientifique) a publié une mise en garde concernant l’utilisation croissante de l’intelligence artificielle générative dans les publications scientifiques.

Selon l’institution, cette pratique rendrait extrêmement difficile la détection d’erreurs, de manipulations ou de contenus inventés dans les articles.

Le CNRS compare cette situation à traquer un micro-organisme dans une botte de foin, soulignant l’ampleur du défi.

L’IA générative désigne des outils capables de produire du texte, des images ou des données de manière autonome, comme les modèles de langage avancés (ex.

: ChatGPT, Claude).

Leur intégration dans la recherche pose un problème de fiabilité, car ces systèmes peuvent générer des informations plausibles mais fausses, appelées hallucinations, sans que les chercheurs ou les relecteurs ne s’en aperçoivent facilement.

Le CNRS met en lumière un risque accru de désinformation scientifique, où des études fondées sur des données erronées pourraient influencer des décisions médicales, politiques ou industrielles.