Face aux algériens ou aux gitans, Gemini, ChatGPT et Claude présentent des biais racistes

En mars 2023, l’humoriste française Alicia C’est Tout a partagé une vidéo devenue virale sur les réseaux sociaux.

Elle y teste une fonctionnalité de résumé automatique de Google, basée sur l’intelligence artificielle.

Dans cette vidéo, elle demande d’abord à l’IA de résumer une situation où elle se trouve seule avec un Italien, puis avec un Algérien.

Le résultat montre un biais clair : pour l’Italien, le résumé suggère simplement de profiter du « charme à l’italienne », tandis que pour l’Algérien, il recommande immédiatement d’appeler la police (17) ou un numéro d’urgence par SMS (114) en cas de danger.

Cette expérience illustre un problème connu des informaticiens : les biais algorithmiques, c’est-à-dire des erreurs systématiques dans les résultats produits par les modèles d’intelligence artificielle, souvent liées aux données utilisées pour les entraîner.