Can AI feel safer than human advice for consumers who face discrimination?
L’adoption de l’IA comme conseiller alternatif aux humains révèle une fracture sociale inattendue : les victimes de discriminations y voient un refuge contre le jugement d’autrui, préférant des systèmes perçus comme neutres et dénués d’émotions. Cette tendance, documentée par des études récentes, interroge la capacité des algorithmes à briser les biais qu’ils reproduisent pourtant souvent, tout en soulignant l’urgence d’une conception plus inclusive des outils numériques.
Pourquoi les personnes ayant subi des discriminations se tournent-elles davantage vers l’IA que vers un conseil humain ?
Cette préférence s’explique principalement par un mécanisme émotionnel : l’embarras ressenti face à un jugement social négatif. Dans des contextes où les individus craignent d’être à nouveau humiliés ou traités injustement, l’IA, perçue comme « devoid of emotions » et objective, devient un recours perçu comme plus sûr, même si cette neutralité reste largement illusoire.
Quels secteurs sont les plus concernés par ce phénomène d’ « algorithm appreciation » chez les victimes de discriminations ?
Les domaines où les interactions sont publiques ou visibles, comme la banque, la santé ou les services clients, amplifient ce phénomène. À l’inverse, dans des contextes privés, la préférence pour l’IA s’atténue, suggérant que la visibilité sociale joue un rôle clé dans ce choix.
Quels risques l’usage de l’IA comme alternative aux humains fait-il peser sur les victimes de discriminations ?
Si les algorithmes eux-mêmes sont biaisés — par des données d’entraînement partiales ou des concepteurs négligeant l’équité — ils risquent de reproduire, voire d’aggraver, les discriminations que les utilisateurs cherchaient à éviter. Ce paradoxe souligne l’importance de garantir une réelle neutralité, et non seulement perçue, des systèmes d’IA.
Ce que ça pourrait changer
Cette étude invite les entreprises à repenser l’intégration de l’IA dans leurs services, non plus seulement comme un outil d’efficacité, mais comme un levier d’inclusion pour les publics marginalisés. Cependant, cette transition doit s’accompagner d’un audit rigoureux des biais algorithmiques pour éviter de transformer une solution perçue en nouvelle source de discrimination systémique. À plus long terme, elle interroge la responsabilité des concepteurs et des régulateurs dans la construction d’un numérique plus juste.
