Can AI feel safer than human advice for consumers who face discrimination?

KEY TAKEAWAYS A study highlights that consumers who have experienced discrimination are more likely to turn to AI-based recommendations rather than human advice. The fear of being judged or feeling embarrassed can lead people to use AI. If AI systems are themselves biased, they risk exacerbating th…

Résumé

Préférence pour l'IA

Une étude récente montre que les consommateurs ayant subi des discriminations privilégient les recommandations d’intelligence artificielle (IA) plutôt que les conseils humains.

Ce phénomène s’explique par un mécanisme émotionnel : l’embarras.

Les personnes victimes de traitements inéquitables dans des contextes publics (comme les concessions automobiles ou les services financiers) se sentent jugées et choisissent l’IA, perçue comme neutre et exempte de biais.

Cette préférence pour l’IA, appelée « algorithme appreciation », contraste avec le phénomène plus courant d’« algorithme aversion », où les humains préfèrent généralement les conseils humains, même lorsque l’IA est plus performante.

Dans cette étude, les participants exposés à des situations discriminatoires ont rapporté des niveaux d’embarras plus élevés, ce qui a directement influencé leur choix de recourir à l’IA pour éviter de nouvelles interactions humaines potentiellement humiliantes.