Islam, judéité
Après de premières expérimentations en fonction de la nationalité, Next poursuit ses expérimentations pour voir quelle image les robots génératifs produisent de principaux groupes religieux ou athées présents en France. Au passage, nous constatons que les robots suggèrent un danger plus grand lorsqu’une femme se retrouve face à un homme, et de plus grandes chances […].
Les robots génératifs comme Gemini (de Google), ChatGPT, Grok ou Claude reproduisent et amplifient des stéréotypes liés aux nationalités. Par exemple, lorsqu’un utilisateur demande une situation impliquant une personne d’un pays occidental, d’Asie ou d’Amérique latine, les IA suggèrent souvent un scénario romantique ou anodin. En revanche, pour des nationalités associées à des pays africains ou à des flux migratoires vers la France, les réponses évoquent majoritairement un danger. Ces biais reflètent des préjugés présents dans la société française et soulèvent des questions sur la responsabilité des entreprises qui développent ces outils. Les tests ont été réalisés en 2026, confirmant que ces disparités persistent malgré les évolutions technologiques.
Les auteurs ont étendu leurs expérimentations aux religions pour évaluer comment les IA représentent les principaux groupes religieux en français. L’objectif était de vérifier si les réponses des chatbots variaient selon la langue utilisée (français ou anglais) ou le genre évoqué. Cette étude s’inscrit dans un contexte où les moteurs de recherche et les IA sont accusés de renforcer des biais culturels et sociaux. Par exemple, des recherches antérieures ont montré que la langue influence les résultats obtenus, notamment lors de conflits géopolitiques. Les tests ont été menés sur les mêmes plateformes (Gemini, ChatGPT, Claude, Grok) avec des requêtes standardisées pour mesurer les différences de traitement entre les religions.
La mention de la judéité dans une requête provoque des réactions particulières chez certains chatbots. En français, Gemini qualifie systématiquement la demande d’_«étrange»_, une réaction absente en anglais. Cette anthropomorphisation de l’IA, c’est-à-dire l’attribution de caractéristiques humaines à une machine, illustre comment les biais linguistiques et culturels influencent les réponses. L’antisémitisme semble mieux intégré par les systèmes, mais cela se traduit parfois par des formulations qui renforcent des stéréotypes ou des perceptions déformées. Ces observations ont été faites lors de tests réalisés fin août 2026, mettant en lumière les limites des modèles de langage actuels.
Les résultats obtenus en français et en anglais diffèrent parfois de manière significative. Par exemple, une requête formulée en français peut déclencher une réponse plus marquée par des biais locaux, reflétant les spécificités culturelles de la francophonie. À l’inverse, une requête en anglais peut produire des réponses plus neutres ou alignées sur les normes culturelles anglo-saxonnes. Cette variation s’explique par les différences dans les jeux de données utilisés pour entraîner les modèles, ainsi que par les attentes des utilisateurs selon leur langue. Ces disparités soulignent l’importance de prendre en compte le contexte culturel lors du développement et de l’utilisation des outils d’intelligence artificielle.
Les biais observés dans les réponses des IA posent la question de la responsabilité des entreprises qui conçoivent ces outils. Les résultats des tests montrent que les chatbots reproduisent des stéréotypes présents dans la société, parfois de manière amplifiée. Cela interroge sur les mesures mises en place pour limiter ces biais, notamment lors de la phase d’entraînement des modèles. Les auteurs de l’article soulignent que ces machines, incapables de comprendre le sens de ce qu’elles génèrent, peuvent malgré tout influencer le débat public en renforçant des perceptions erronées. La responsabilité des constructeurs inclut donc la nécessité de corriger ces biais pour éviter des effets négatifs sur la société.
