Les victimes de discrimination choisissent les recommandations basées sur l’IA plutôt que les conseils humains

L’ESSENTIEL Une étude souligne que les consommateurs discriminés sont plus enclins à se tourner vers des recommandations basées sur l’IA plutôt que vers des conseils humains. La peur d’être jugé ou de vivre un sentiment de gêne peut conduire à utiliser l’IA. Si les systèmes d’IA sont eux-mêmes biai…

Résumé

Discrimination et choix IA

Une étude récente révèle que les personnes victimes de discrimination dans des contextes de consommation (comme l'accès à un prêt ou à un service) privilégient les recommandations basées sur l'intelligence artificielle (IA) plutôt que les conseils humains.

Ce phénomène s'explique par un sentiment de gêne ou de jugement social ressenti lors d'interactions avec des humains.

Par exemple, une personne intolérante au gluten pourrait préférer demander conseil à un assistant d'achat IA comme Hopla (développé par Carrefour) plutôt qu'à un employé de magasin, par crainte d'être mal jugée.

Cette tendance va à l'encontre d'un autre phénomène bien documenté, l'aversion pour les algorithmes, où les humains préfèrent généralement les conseils humains même lorsque les algorithmes sont plus performants.

Ici, l'IA devient une alternative perçue comme neutre et sans préjugés, malgré les biais réels que peuvent contenir ces systèmes.