L’intégration des IA génératives dans les réseaux sociaux influence l’opinion

Les IA génératives sont des outils capables de produire du texte, des images ou des sons à partir de données existantes, comme des modèles de langage (LLM). Depuis 2024, des plateformes comme LinkedIn ou X (anciennement Twitter) intègrent des fonctionnalités permettant d’améliorer automatiquement les publications grâce à ces IA. Par exemple, LinkedIn propose une option pour reformuler un post avant sa publication, tandis que X offre une fonctionnalité appelée Grok qui fournit du contexte sur les messages partagés. Ces outils visent à faciliter la communication, mais ils introduisent aussi des biais, c’est-à-dire des préférences ou des orientations non neutres dans les suggestions proposées aux utilisateurs.

Une étude publiée sur arXiv et acceptée à la conférence scientifique ICML 2026 (organisée par l’université d’Oxford) montre que les biais introduits par les IA génératives peuvent être amplifiés par les réseaux sociaux. Les chercheuses et chercheurs ont simulé l’impact de ces outils sur des débats politiques. Par exemple, une personne favorable à l’utilisation de l’IA dans l’éducation rédige un message simple : « L’IA pourrait être un outil utile pour personnaliser l’éducation des élèves ». L’IA propose une version plus enthousiaste : « Tirons parti du potentiel de l’IA pour personnaliser l’apprentissage et révolutionner l’éducation pour chaque élève ! ». Cette modification, même minime, peut influencer des millions d’utilisateurs et orienter l’opinion collective dans un sens particulier.

Les chercheurs ont analysé 13 sujets politiques en utilisant des modèles de langage ouverts. Ils ont demandé à ces modèles de rédiger et d’améliorer des publications à partir d’arguments humains. Résultat : tous les modèles introduisent des biais, souvent alignés sur leurs propres biais de conversation. Cependant, certains biais vont à l’encontre des opinions exprimées par les utilisateurs. Par exemple, pour le sujet de l’athéisme, les modèles expriment une opinion favorable, mais introduisent des biais défavorables lorsqu’ils améliorent des publications humaines sur ce thème. Ces biais peuvent ensuite être amplifiés par les dynamiques des réseaux sociaux, où les opinions se renforcent mutuellement.

Pour étudier l’impact des IA génératives sur les opinions, les chercheurs ont utilisé un modèle mathématique établi en 1990, conçu pour simuler les réseaux d’influences interpersonnelles. Ils ont appliqué ce modèle à la dynamique des opinions influencée par l’IA. Les simulations théoriques montrent que les fonctionnalités d’amélioration de texte via IA peuvent amplifier les biais introduits. Par exemple, en reprenant des données de 2012 issues de Twitter, Facebook et Google+, ils ont simulé l’impact de l’IA sur le débat autour de l’avortement. Dans leur simulation, une population majoritairement anti-avortement a vu son opinion basculer vers une position pro-choix lorsque des suggestions générées par IA étaient proposées.

Les chercheurs ont étudié la fonctionnalité « Explique ce message » de X (anciennement Twitter), qui utilise l’IA Grok. Le prompt (instructions données à l’IA pour générer des réponses) de Grok ne semble pas biaisé à première vue. Pourtant, en utilisant ce prompt avec le modèle grok-4-1-fast-reasoning via l’API officielle, les chercheurs ont observé que 70 % des affirmations générées par Grok étaient anti-avortement, 26 % neutres et seulement 4 % pro-avortement. Sans le prompt, aucun biais significatif n’était détecté. Cela démontre que le choix des instructions données à l’IA (design choice) détermine fortement les biais introduits dans les débats publics.