NapseflowNapseflow
AccueilContenusÉditionsComprendreActualités
Concept

biais algorithmiques

Phénomène où les algorithmes reproduisent ou amplifient des discriminations présentes dans leurs données d’entraînement. Mozilla évoque ce risque pour justifier ses précautions.

Catégorie : Tech

Articles liés (8)

Les victimes de discrimination choisissent les recommandations basées sur l’IA plutôt que les conseils humains

<hr> <p><strong>L’ESSENTIEL</strong></p> <ul> <li><p><strong>Une étude souligne que les consommateurs discriminés sont plus enclins à se tourner vers des recommandations basées sur l’IA plutôt que vers des conseils humains.</strong></p></li> <li><p><strong>La peur d’être jugé ou de vivre un sentiment de gêne peut conduire à utiliser l’IA.</strong></p></li> <li><p><strong>Si les systèmes d’IA sont eux-mêmes biaisés, ils risquent d’amplifier la discrimination à laquelle les consommateurs tentaient d’échapper.</strong></p></li> </ul> <hr> <p>Que préparer pour le dîner avec un budget de 20 euros et un invité intolérant au gluten ? Un consommateur peut demander conseil à un employé de magasin ou interroger, par exemple, Hopla, l’assistant d’achat basé sur l’intelligence artificielle lancé par Carrefour. Derrière ce choix très quotidien se pose une question plus large : face à une recommandation, faisons-nous davantage confiance à un être humain ou à une IA ?</p> <p>Des travaux récents

Lire l'édition complète →
1 mo

Can AI feel safer than human advice for consumers who face discrimination?

<hr> <p><strong>KEY TAKEAWAYS</strong></p> <ul> <li><p><strong>A study highlights that consumers who have experienced discrimination are more likely to turn to AI-based recommendations rather than human advice.</strong></p></li> <li><p><strong>The fear of being judged or feeling embarrassed can lead people to use AI.</strong></p></li> <li><p><strong>If AI systems are themselves biased, they risk exacerbating the very discrimination that consumers were trying to escape.</strong></p></li> </ul> <hr> <p>What should you cook for dinner on a budget of 20 euros when you have a guest with a gluten intolerance? A shopper might ask a shop assistant for advice or consult, for example, <a href="https://www.carrefour.fr/services/hopla">Hopla, the AI-powered shopping assistant</a> launched by French supermarket chain Carrefour. Behind this very ordinary everyday choice lies a broader question: when faced with a recommendation, who do we trust more? A human being or an AI?</p> <p>Recent researc

Lire l'édition complète →
16 h

Firefox déploie son IA « Smart Window », mais Mozilla prend d’infinies précautions pour ne fâcher personne

Neuf mois après un violent tollé communautaire lié à l'intégration de l'intelligence artificielle dans son navigateur, Mozilla officialise « Smart Window ». Mais cette fois-ci, la fondation a retenu la leçon : le mot d'ordre absolu est le contrôle utilisateur.

Lire l'édition complète →
1 mo

Comme la plupart d'entre nous, les chercheurs sont déjà accros à l'IA

En quelques années, les logiciels d'écriture automatique se sont glissés dans la rédaction des articles de recherche. Les revues ont riposté à coups de chartes et d'obligations de transparence. Mais ces garde-fous n'ont presque rien changé à la place de l'IA dans les publications scientifiques.

Lire l'édition complète →
10 j

Pourquoi les employeurs ne doivent pas attendre pour identifier et réguler les systèmes d’IA « à haut risque »

Les services des ressources humaines doivent, d’ici à la fin 2027, recenser et clarifier les systèmes d’intelligence artificielle utilisés par leurs services, et informer les salariés, conseille le juriste Jean-Emmanuel Ray, qui revient dans sa chronique sur la partie concernant le travail de l’« AI Act ».

Lire l'édition complète →
1 mo

Dans le monde entier, l'IA de Google donne des réponses racistes : ce que cela nous apprends de ces modèles de langage

Les aperçus générés par l’intelligence artificielle occupent désormais une place centrale dans les recherches Google. Pourtant, il suffisait parfois de changer un seul mot pour faire basculer leur ton. Une même situation pouvait ainsi susciter un conseil banal ou une alerte de sécurité selon l’origine attribuée à la personne mentionnée.

Lire l'édition complète →
1 mo

« Je suis seule avec un Algérien » : l’IA de Google est-elle vraiment raciste ?

Des internautes ont remarqué que Gemini et le Mode IA de Google ne réagissaient pas toujours de la même façon selon la nationalité mentionnée dans une requête pourtant identique. Numerama a reproduit l’expérience avec plusieurs modèles et plusieurs origines.

Lire l'édition complète →
1 mo

Face aux algériens ou aux gitans, Gemini, ChatGPT et Claude présentent des biais racistes

Ce 23 août, l’humoriste Alicia C’est Tout repérait un biais raciste dans les résumés IA de Google. Next a reproduit et étendu son expérience sur les modèles de langage les plus couramment utilisés, et constate chez la production de stéréotypes en fonction de diverses nationalités ou groupes ethniques. Tout est parti d’une vidéo, devenue virale. […]

Lire l'édition complète →
1 mo

Ce contenu a été généré par intelligence artificielle à partir de l'article source. Il peut contenir des erreurs ou imprécisions.