Islam, judéité, chrétienté : les LLM en disent aussi long sur notre vision des religions
Les grands modèles de langage (LLM) ne se contentent pas de refléter les biais sociétaux : ils les amplifient et les systématisent, révélant ainsi les fractures de notre perception collective. En testant quatre chatbots majeurs (Gemini, ChatGPT, Grok, Claude) sur leur traitement des religions en français et en anglais, une enquête met en lumière des stéréotypes persistants, où la langue et la culture façonnent des réponses parfois contradictoires. Ces écarts interrogent moins les capacités techniques des IA que la responsabilité de leurs concepteurs face à l’influence grandissante de leurs outils sur le débat public.
Quels biais les LLM révèlent-ils lorsqu’on les interroge sur les religions, et comment varient-ils selon la langue ?
Les tests montrent que les chatbots associent systématiquement certaines religions à des contextes spécifiques : la judéité est souvent qualifiée d’étrange en français par Gemini, une formulation absente en anglais, tandis que l’islam et le christianisme génèrent des réponses plus neutres mais marquées par des stéréotypes culturels. En anglais, les résultats tendent à s’aligner sur les normes anglo-saxonnes, moins sensibles à ces nuances contextuelles francophones. Ces variations illustrent comment les biais linguistiques et culturels s’immiscent dans les réponses des IA, malgré leur prétendue neutralité algorithmique.
Pourquoi la mention de la judéité provoque-t-elle des réactions différentes selon les chatbots et les langues ?
Seul Gemini en français a systématiquement qualifié la mention de la judéité d’étrange, un biais qui disparaît en anglais. Cette réaction pourrait s’expliquer par la sensibilité historique de la société française à l’antisémitisme, intégrée dans les données d’entraînement des modèles, mais aussi par une moindre familiarité des chatbots avec les contextes culturels francophones. En anglais, où le débat sur l’antisémitisme est moins ancré dans un cadre national spécifique, cette association n’apparaît pas.
Quels acteurs sont directement concernés par ces biais et quelles sont leurs responsabilités ?
Les constructeurs des LLM (Google pour Gemini, OpenAI pour ChatGPT, Anthropic pour Claude, xAI pour Grok) sont les premiers responsables, car leurs modèles reproduisent et amplifient des stéréotypes présents dans les données d’entraînement. Les résultats soulèvent aussi la question de la responsabilité éditoriale des médias et plateformes qui intègrent ces outils, ainsi que celle des utilisateurs, dont les requêtes influencent indirectement les réponses des IA. Aucun cadre réglementaire clair ne régit encore ces enjeux, laissant ces acteurs libres d’agir ou non.
Ce que ça pourrait changer
Ces biais pourraient renforcer les divisions sociales en normalisant des représentations stéréotypées des religions dans les contenus générés par IA, influençant ainsi les perceptions individuelles et collectives. À l’ère où les chatbots deviennent des intermédiaires incontournables de l’information, leur manque de neutralité pose un défi démocratique : comment garantir que ces outils ne deviennent pas des vecteurs de polarisation ? La transparence sur les mécanismes de génération et la diversification des sources d’entraînement s’imposent comme des pistes urgentes, mais encore insuffisantes.
