Quand les algorithmes de recrutement renforcent les biais que l’on voulait réduire

En 2025, l’autorité française chargée de la lutte contre les discriminations a pointé du doigt un système de diffusion d’offres d’emploi sur une grande plateforme de réseaux sociaux. Certaines annonces étaient davantage visibles pour les hommes, d’autres pour les femmes. Cette situation illustre un problème croissant : les algorithmes de recrutement peuvent générer des résultats inéquitables, même sans avoir été programmés pour discriminer. Ce phénomène prend de l’importance avec l’entrée en vigueur progressive du règlement européen sur l’IA (2024-2026), qui classe les outils de recrutement parmi les applications à haut risque. Les entreprises doivent donc aller au-delà de la simple suppression des variables sensibles comme le sexe ou l’origine ethnique pour garantir l’équité des systèmes d’IA qu’elles utilisent.

Les biais algorithmiques ne proviennent pas toujours des algorithmes eux-mêmes, mais des données historiques utilisées pour les entraîner. Ces données reflètent souvent des décisions humaines qui contiennent déjà des inégalités. Par exemple, les systèmes de classement des plateformes de travail privilégient des indicateurs comme les performances passées, le nombre de missions réalisées ou l’expérience accumulée. Ces critères semblent objectifs, mais ils supposent que les résultats passés dépendent uniquement du mérite individuel. Or, ils peuvent aussi résulter d’un accès inégal aux opportunités, comme un avantage initial pour certains groupes. Ainsi, les données utilisées pour entraîner l’IA ne sont pas neutres, même si elles ne contiennent pas d’informations démographiques explicites.

Une personne qui bénéficie d’un léger avantage au début de sa carrière accumule davantage d’expérience. Cette expérience améliore son classement dans les systèmes automatisés, ce qui augmente sa visibilité et lui ouvre de nouvelles opportunités. Au fil du temps, cet avantage initial se renforce, créant une boucle de rétroaction où les inégalités se perpétuent. Pour les entreprises utilisant des outils de recrutement fondés sur l’IA, cela signifie qu’un classement présenté comme « objectif » ou « basé sur la performance » peut en réalité reproduire et amplifier des inégalités préexistantes. Ce mécanisme affecte particulièrement les femmes, les jeunes professionnels et les minorités ethniques, qui sont systématiquement désavantagés malgré des compétences comparables.

Les recherches citées dans l’article montrent que les femmes, en moyenne, accumulent moins de missions réalisées que des hommes présentant des caractéristiques comparables (âge, niveau d’études, tarif horaire, évaluations, vérifications du profil). Cette différence se traduit par une moindre visibilité dans les classements algorithmiques. Les écarts sont encore plus marqués pour les femmes issues de minorités ethniques, qui subissent une double pénalité. De même, les jeunes professionnels, souvent moins expérimentés, sont systématiquement désavantagés dans ces classements, même s’ils possèdent des compétences équivalentes. Ces résultats apparaissent même lorsque les données sensibles (sexe, origine) sont exclues, car les biais passent par des variables indirectes comme le nombre de missions réalisées.

Pour les organisations utilisant l’IA dans le recrutement, la gestion des biais nécessite une approche globale. Supprimer les données sensibles ne suffit pas, car l’algorithme peut reproduire des inégalités à partir de résultats historiques biaisés. Les critères d’optimisation doivent être repensés : les outils conçus pour identifier les « meilleurs candidats » risquent de favoriser ceux qui ont déjà bénéficié d’une plus grande visibilité ou d’un accès privilégié. Enfin, les boucles de rétroaction doivent être surveillées comme un enjeu de gouvernance, car un système qui influence la visibilité des candidats façonne aussi les données utilisées demain. Ces mécanismes peuvent s’autoalimenter et aggraver les biais existants.