Les victimes de discrimination choisissent les recommandations basées sur l’IA plutôt que les conseils humains
Face à la discrimination dans les interactions de consommation, les victimes se tournent paradoxalement vers des recommandations algorithmiques plutôt que vers des conseils humains, révélant un mécanisme de défense psychologique contre le jugement social. Cette préférence, qui inverse la tendance générale à l'aversion pour les algorithmes, interroge les limites des systèmes d'IA perçus comme neutres, alors même qu'ils peuvent reproduire les biais qu'ils sont censés éviter.
Pourquoi les victimes de discrimination privilégient-elles les recommandations basées sur l’IA plutôt que les conseils humains ?
Cette préférence s’explique principalement par un mécanisme émotionnel de gêne ou de jugement social, où les individus craignent d’être à nouveau discriminés ou humiliés par des interactions humaines. L’IA, perçue comme dépourvue d’émotions et neutre, offre une alternative perçue comme plus sûre pour éviter de revivre une expérience humiliante, surtout dans des contextes publics où le regard des autres est présent.
Quels secteurs ou contextes sont les plus concernés par ce phénomène selon l’étude ?
Les résultats montrent que cette préférence pour l’IA est particulièrement marquée dans les situations publiques ou visibles, où les interactions sont exposées aux autres, comme dans les services bancaires, les plateformes de santé ou les espaces de consommation partagés. En revanche, dans des contextes privés, l’effet s’atténue, suggérant que la visibilité sociale joue un rôle clé dans ce choix.
Quels risques l’IA fait-elle courir aux victimes de discrimination si elle est elle-même biaisée ?
Si les systèmes d’IA reproduisent ou amplifient les biais présents dans leurs données d’entraînement, ils risquent de perpétuer la discrimination que les victimes cherchaient à éviter. Ce paradoxe est d’autant plus préoccupant que ces biais algorithmiques sont souvent invisibles et difficiles à détecter, rendant la discrimination plus insidieuse que dans les interactions humaines.
Comment les entreprises peuvent-elles intégrer cette préférence pour l’IA dans leur stratégie client ?
Les organisations pourraient proposer des alternatives algorithmiques dans des secteurs sensibles (banque, santé, services clients) pour répondre au besoin de neutralité perçue par les consommateurs victimes de discrimination. Cependant, cette approche ne doit pas se substituer à des efforts de réduction des biais humains dans les interactions directes, sous peine de reproduire les mêmes inégalités sous couvert de technologie.
Ce que ça pourrait changer
Cette tendance pourrait accélérer l’adoption de l’IA dans les services clients, mais elle impose aux entreprises une vigilance accrue sur l’équité de leurs systèmes algorithmiques. À défaut, elles risquent de créer une illusion de neutralité qui masquerait des discriminations systémiques. Pour les consommateurs, cela soulève la question de la confiance : faut-il privilégier des outils perçus comme sûrs mais potentiellement biaisés, ou exiger des garanties réelles contre les discriminations dans les interactions humaines ?
