Dans le monde entier, l'IA de Google donne des réponses racistes : ce que cela nous apprends de ces modèles de langage

En août 2026, des utilisateurs du monde entier ont signalé que l’intelligence artificielle (IA) de Google, appelée Gemini, produisait des réponses racistes ou stéréotypées. Par exemple, elle pouvait associer des personnes noires à des rôles subalternes ou des personnes asiatiques à des clichés culturels exagérés. Ces biais reflètent des problèmes profonds dans la conception des modèles de langage (LLM), qui sont des programmes capables de comprendre et générer du texte en imitant le langage humain. Ces modèles s’entraînent sur d’immenses quantités de données textuelles issues d’Internet, souvent marquées par des préjugés historiques, sociaux ou culturels. Google, comme d’autres entreprises, utilise ces données pour améliorer ses outils, mais les résultats montrent que les biais présents dans les données se retrouvent dans les réponses de l’IA.

Les biais dans les modèles de langage proviennent principalement des données utilisées pour leur entraînement. Ces données, collectées sur des milliards de pages web, forums ou livres, contiennent des stéréotypes, des discriminations et des inégalités sociales. Par exemple, des études ont montré que les algorithmes peuvent reproduire des préjugés sexistes ou racistes s’ils sont présents dans les textes sources. Dans le cas de Gemini, les ingénieurs de Google ont reconnu que le modèle avait été exposé à des contenus problématiques, notamment sur des sujets sensibles comme l’histoire coloniale ou les inégalités raciales. Ces biais ne sont pas toujours intentionnels : ils émergent naturellement lorsque les données reflètent les déséquilibres de la société.

Les réponses racistes de Gemini ont eu des répercussions dans plusieurs pays, notamment aux États-Unis, en Europe et en Asie, où des utilisateurs ont partagé des captures d’écran sur les réseaux sociaux. Ces incidents ont soulevé des questions sur la fiabilité des IA grand public et leur impact sur la société. Par exemple, des enseignants ont rapporté que des élèves utilisaient ces outils pour rédiger des travaux, risquant de propager des idées fausses ou dangereuses. Les entreprises technologiques, dont Google, sont désormais sous pression pour corriger ces biais, mais le processus est complexe et coûteux. En 2026, aucune solution définitive n’a encore été trouvée pour éliminer totalement ces problèmes.

Les modèles de langage comme Gemini fonctionnent en prédisant les mots les plus probables dans une phrase, sans comprendre réellement le sens des textes. Cette approche, appelée apprentissage automatique (ou machine learning), repose sur des calculs statistiques et non sur une réflexion critique. Par conséquent, les IA peuvent reproduire des erreurs ou des préjugés sans en avoir conscience. Les chercheurs soulignent que ces outils manquent de contexte : ils ne distinguent pas toujours une blague d’une insulte, ou un fait historique d’une opinion biaisée. De plus, les modèles sont souvent opaque : il est difficile d’expliquer pourquoi une IA a généré une réponse précise, ce qui complique leur amélioration.

Face à ces problèmes, Google a annoncé des mesures correctives, comme le filtrage des données d’entraînement ou l’ajout de garde-fous pour limiter les réponses problématiques. D’autres entreprises, comme Microsoft ou Meta, travaillent également sur des solutions similaires. Cependant, ces ajustements prennent du temps et nécessitent des ressources importantes. Certains experts proposent de diversifier les équipes de développement pour inclure des profils variés (sociologues, historiens, etc.) afin de mieux identifier les biais. Une autre piste consiste à utiliser des datasets (jeux de données) plus équilibrés, mais cela pose des défis éthiques et techniques. En 2026, la question reste ouverte : comment concilier innovation technologique et équité sociale ?