Concept

biais algorithmiques

Phénomène où les algorithmes reproduisent ou amplifient des discriminations présentes dans leurs données d’entraînement. Mozilla évoque ce risque pour justifier ses précautions.

Catégorie : Tech

Firefox déploie son IA « Smart Window », mais Mozilla prend d’infinies précautions pour ne fâcher personne

Neuf mois après un violent tollé communautaire lié à l'intégration de l'intelligence artificielle dans son navigateur, Mozilla officialise « Smart Window ». Mais cette fois-ci, la fondation a retenu la leçon : le mot d'ordre absolu est le contrôle utilisateur.

Lire l'édition complète →

12 j

Dans le monde entier, l'IA de Google donne des réponses racistes : ce que cela nous apprends de ces modèles de langage

Les aperçus générés par l’intelligence artificielle occupent désormais une place centrale dans les recherches Google. Pourtant, il suffisait parfois de changer un seul mot pour faire basculer leur ton. Une même situation pouvait ainsi susciter un conseil banal ou une alerte de sécurité selon l’origine attribuée à la personne mentionnée.

Lire l'édition complète →

4 j

« Je suis seule avec un Algérien » : l’IA de Google est-elle vraiment raciste ?

Des internautes ont remarqué que Gemini et le Mode IA de Google ne réagissaient pas toujours de la même façon selon la nationalité mentionnée dans une requête pourtant identique. Numerama a reproduit l’expérience avec plusieurs modèles et plusieurs origines.

Lire l'édition complète →

6 j

Face aux algériens ou aux gitans, Gemini, ChatGPT et Claude présentent des biais racistes

Ce 23 août, l’humoriste Alicia C’est Tout repérait un biais raciste dans les résumés IA de Google. Next a reproduit et étendu son expérience sur les modèles de langage les plus couramment utilisés, et constate chez la production de stéréotypes en fonction de diverses nationalités ou groupes ethniques. Tout est parti d’une vidéo, devenue virale. […]

Lire l'édition complète →

5 j