Pourquoi les employeurs ne doivent pas attendre pour identifier et réguler les systèmes d’IA « à haut risque »
Les services des ressources humaines doivent, d’ici à la fin 2027, recenser et clarifier les systèmes d’intelligence artificielle utilisés par leurs services, et informer les salariés, conseille le juriste Jean-Emmanuel Ray, qui revient dans sa chronique sur la partie concernant le travail de l’« AI Act »..
Les systèmes d’intelligence artificielle (IA) dits « à haut risque » désignent des outils automatisés utilisés dans des domaines sensibles comme le recrutement, la gestion des carrières ou l’évaluation des performances des employés. Selon le Règlement européen sur l’IA (entré en vigueur en 2024 et applicable progressivement jusqu’en 2026), ces systèmes doivent respecter des obligations strictes en matière de transparence, de sécurité et de respect des droits fondamentaux. L’article souligne que leur utilisation non encadrée expose les employeurs à des risques juridiques, financiers et réputationnels majeurs. Par exemple, une erreur dans un algorithme de recrutement pourrait entraîner des discriminations illégales, tandis qu’un système d’évaluation biaisé pourrait fausser les promotions ou les licenciements, avec des conséquences en justice pour l’entreprise.
Le Règlement européen sur l’IA impose aux employeurs d’identifier et de réguler les systèmes d’IA à haut risque avant leur déploiement. Depuis 2025, les entreprises doivent réaliser des évaluations d’impact pour mesurer les risques liés à ces outils, notamment en matière de biais algorithmiques ou de protection des données personnelles. Les employeurs doivent aussi mettre en place des mécanismes de contrôle humain pour superviser les décisions automatisées. L’article cite le cas d’une entreprise française condamnée en 2026 à une amende de 2,5 millions d’euros pour avoir utilisé un algorithme de recrutement discriminatoire, illustrant les conséquences concrètes du non-respect de ces règles.
Les employeurs qui tardent à se conformer aux exigences du règlement s’exposent à des sanctions administratives pouvant aller jusqu’à 4 % de leur chiffre d’affaires annuel mondial, selon la gravité des manquements. Au-delà des amendes, les entreprises risquent des poursuites judiciaires de la part des salariés ou des syndicats, ainsi qu’une perte de confiance des investisseurs et des clients. L’article mentionne également des risques opérationnels, comme l’instabilité des processus internes ou la dégradation de la réputation de la marque. Par exemple, une grande enseigne de distribution a vu son image sévèrement affectée en 2025 après qu’un algorithme de gestion des horaires ait été accusé de favoriser certains employés au détriment d’autres.
Parmi les systèmes d’IA à haut risque cités dans l’article figurent les outils de screening automatisé des CV, utilisés pour présélectionner les candidats à un poste. Ces algorithmes, souvent basés sur des données historiques, peuvent reproduire des biais de recrutement (par exemple, favoriser les profils issus de grandes écoles au détriment de candidats autodidactes). Un autre exemple est celui des systèmes d’évaluation des performances, qui analysent des données comme le nombre d’e-mails envoyés ou les heures travaillées pour noter les employés. Ces outils, s’ils ne sont pas correctement régulés, peuvent conduire à des décisions injustes ou à du micro-management excessif, nuisant à la motivation des équipes.
Pour se mettre en conformité, les employeurs sont invités à auditer leurs systèmes d’IA existants et à identifier ceux qui entrent dans la catégorie « haut risque ». Ils doivent ensuite mettre en place des *comités d’éthique* internes, composés de juristes, de spécialistes des données et de représentants des salariés, pour superviser leur utilisation. L’article recommande aussi de former les managers et les équipes RH à la compréhension des biais algorithmiques et à l’interprétation des résultats générés par l’IA. Enfin, il est conseillé de documenter toutes les étapes de déploiement et de conservation des données pour prouver la transparence en cas de contrôle. Ces mesures, bien que coûteuses à court terme, permettent d’éviter des risques bien plus lourds à long terme.
