Les victimes de discrimination choisissent les recommandations basées sur l’IA plutôt que les conseils humains
L’ESSENTIEL Une étude souligne que les consommateurs discriminés sont plus enclins à se tourner vers des recommandations basées sur l’IA plutôt que vers des conseils humains. La peur d’être jugé ou de vivre un sentiment de gêne peut conduire à utiliser l’IA.
Une étude récente révèle que les personnes victimes de discrimination dans des contextes de consommation (comme l'accès à un prêt ou à un service) privilégient les recommandations basées sur l'intelligence artificielle (IA) plutôt que les conseils humains. Ce phénomène s'explique par un sentiment de gêne ou de jugement social ressenti lors d'interactions avec des humains. Par exemple, une personne intolérante au gluten pourrait préférer demander conseil à un assistant d'achat IA comme Hopla (développé par Carrefour) plutôt qu'à un employé de magasin, par crainte d'être mal jugée. Cette tendance va à l'encontre d'un autre phénomène bien documenté, l'aversion pour les algorithmes, où les humains préfèrent généralement les conseils humains même lorsque les algorithmes sont plus performants. Ici, l'IA devient une alternative perçue comme neutre et sans préjugés, malgré les biais réels que peuvent contenir ces systèmes.
La discrimination dans les marchés ou plateformes de consommation survient lorsque des personnes sont traitées différemment en raison de critères non pertinents comme la couleur de peau, l'origine ethnique ou le genre, et non pour des raisons commerciales légitimes. Par exemple, des études montrent que certains groupes subissent des conditions moins favorables pour des services similaires, comme l'accès au crédit ou à l'assurance. Ces discriminations, souvent implicites ou involontaires, ont des conséquences psychologiques graves : augmentation du stress, sentiment d'injustice et modification des comportements futurs. Aux États-Unis, des rapports comme celui du Congress Research Service (2021) ou de la Federal Trade Commission (2014) ont documenté ces inégalités, notamment dans l'accès aux prêts ou aux assurances. Ces expériences négatives poussent les victimes à éviter les interactions humaines perçues comme risquées.
Dans une étude menée sur un campus universitaire, des chercheurs ont simulé une situation de discrimination en refusant des demandes de prêt à des participants, dont certains avaient été explicitement questionnés sur leur couleur de peau. Les participants ayant ressenti une discrimination (phase 1) ont ensuite été confrontés à un choix lors d'une phase 2 : être évalués par un humain ou par un système d'IA décrit comme « dépourvu d'émotions ». Les résultats montrent que 60 % des participants ayant subi une discrimination ont choisi l'IA, contre seulement 30 % dans le groupe témoin. Ce choix s'explique par le besoin d'éviter une nouvelle expérience de jugement ou de gêne sociale, l'IA étant perçue comme objective et neutre, même si cette neutralité est parfois illusoire.
La gêne est une émotion sociale qui survient lorsque les individus se sentent jugés négativement par autrui. Dans le contexte de la discrimination, cette émotion pousse les victimes à éviter les interactions humaines, perçues comme risquées. Par exemple, une personne discriminée dans un magasin ou une banque peut craindre d'être à nouveau mal traitée ou humiliée. L'IA, en revanche, est perçue comme un outil sans jugement, ce qui réduit ce sentiment de vulnérabilité. Cette préférence pour l'IA est particulièrement marquée dans les situations publiques (où les interactions sont visibles) et s'atténue dans les contextes privés. Les travaux de chercheurs comme ceux publiés dans Journal of Product Innovation Management (2024) confirment que plus le niveau de gêne est élevé, plus le choix de l'IA est probable.
Bien que l'IA soit souvent perçue comme objective, elle peut reproduire ou amplifier les discriminations existantes si elle est entraînée sur des données biaisées ou conçues sans tenir compte de l'équité. Par exemple, un algorithme utilisé pour évaluer des demandes de prêt pourrait défavoriser certains groupes s'il a été formé sur des données historiques reflétant des discriminations passées. Une étude de l'American Psychological Association (2021) montre que les biais dans les algorithmes peuvent être difficiles à détecter, car ils sont souvent invisibles pour les utilisateurs. Ainsi, si l'IA est choisie pour éviter la discrimination humaine, elle peut, à son tour, devenir une source de discrimination, mais de manière moins perceptible. Ce paradoxe souligne l'importance de concevoir des systèmes d'IA transparents et équitables.
Pour les entreprises, notamment dans des secteurs sensibles comme la banque, la santé ou les services clients, proposer des alternatives basées sur l'IA peut améliorer l'expérience des consommateurs ayant vécu des discriminations. Par exemple, une banque pourrait offrir un chatbot ou un assistant virtuel pour les demandes de crédit, réduisant ainsi le stress lié aux interactions humaines. Cependant, cette stratégie ne doit pas se limiter à une solution perçue comme neutre, mais garantir une réelle équité. Les entreprises doivent donc auditer leurs systèmes d'IA pour détecter et corriger les biais potentiels. Comme le souligne l'article, l'adoption de l'IA ne relève pas seulement de l'efficacité, mais aussi de besoins psychologiques liés aux expériences sociales antérieures des consommateurs.
