[Point de vue] Enseignement : un algorithme de sélection peut-il faire l'objet d'un recours ? Par Prisca Eychenne, Juriste.

Les algorithmes sont de plus en plus utilisés par les administrations pour prendre des décisions, comme classer des candidatures ou évaluer des dossiers, sans que leur fonctionnement soit toujours transparent.

Cette opacité pose problème aux candidats exclus, qui ignorent souvent les critères exacts ayant conduit à leur éviction.

Par exemple, un algorithme peut attribuer un score à un dossier sans que la personne concernée sache comment ce score a été calculé.

Cette situation soulève des questions sur la légitimité et l'équité de ces outils automatisés.

En France, des lois comme celle du 7 octobre 2016 pour une République numérique ou le Règlement général sur la protection des données (RGPD) de 2016 visent à encadrer ces pratiques en imposant plus de transparence.

Une équipe de chercheurs de l'Université Paris-Est Créteil, composée de juristes et d'informaticiens comme Noé Wagener et Luc Pellissier, a franchi une étape en rendant public non seulement le code source d'un algorithme de sélection, mais aussi les critères, les règles de calcul, les seuils d'admission et même les scores détaillés attribués à chaque candidat.

Cette initiative, liée au master « Informatique et droit », permet aux candidats de comprendre précisément comment leur dossier a été évalué.

Les chercheurs estiment que cette transparence rend l'algorithme « justiciable », c'est-à-dire susceptible d'être contesté devant un juge.

Ils encouragent même une contestation pour tester la réaction des juridictions.

Un algorithme en lui-même n'est qu'un outil technique, une suite d'instructions pour traiter des données, et ne peut pas être directement contesté comme une décision administrative.

Cependant, lorsqu'il influence fortement une décision administrative, comme le classement de candidatures, il peut devenir un « objet juridique ».

Par exemple, un algorithme utilisé pour sélectionner des candidats à une formation universitaire devient un élément clé de la légalité de la décision finale.

Le juge administratif admet depuis 2016, via des décisions comme celles de la Société Fairvesta, que des actes techniques puissent faire l'objet d'un recours s'ils ont des effets notables sur les droits des personnes.

La loi française et européenne encadre désormais l'utilisation des algorithmes dans l'administration.

Le Code des relations entre le public et l'administration (CRPA), modifié en 2016, impose à l'administration d'informer les citoyens lorsqu'une décision est prise via un algorithme et de leur communiquer les règles de fonctionnement de cet outil.

Le RGPD, entré en vigueur en 2016, donne aussi aux individus le droit de ne pas être soumis à une décision entièrement automatisée ayant des effets juridiques sur eux, sauf exceptions.

Ces règles visent à garantir que l'automatisation ne prive pas les citoyens de leurs droits à la transparence et au recours.

Contester une décision basée sur un algorithme ne signifie pas attaquer directement le code, mais la décision finale qui en découle.

Par exemple, un candidat évincé d'une formation peut contester la légalité de la décision en invoquant des critères discriminatoires, un manque de transparence ou une erreur de calcul.

Les voies de recours dépendent de l'auteur de la décision : si c'est une administration publique, le recours pour excès de pouvoir devant le juge administratif est la voie naturelle.

Si c'est une entreprise privée, le recours peut relever du juge judiciaire ou d'autorités comme la Commission nationale de l'informatique et des libertés (CNIL).

Le juge administratif et le juge européen étendent leur contrôle aux algorithmes lorsque ceux-ci influencent significativement une décision.

Ils examinent non seulement la décision finale, mais aussi les critères de sélection, les paramètres de classement et la logique algorithmique sous-jacente.

Par exemple, dans un arrêt de 2023 (SCHUFA Holding AG), la Cour de justice de l'Union européenne a confirmé que l'utilisation d'un score automatisé pour évaluer la solvabilité d'une personne pouvait être contestée si elle affecte ses droits.

Ce contrôle vise à s'assurer que l'administration respecte les principes d'égalité, d'impartialité et de proportionnalité, même lorsqu'elle utilise des outils automatisés.

L'évolution du droit montre que les algorithmes ne sont plus des boîtes noires intouchables.

Leur utilisation croissante dans les décisions administratives et privées pousse à repenser les garanties juridiques.

Les initiatives comme celle de l'Université Paris-Est Créteil illustrent une tendance vers plus de transparence, mais aussi vers une judiciarisation accrue des outils algorithmiques.

À l'avenir, les débats pourraient porter sur l'équilibre entre innovation technologique et protection des droits fondamentaux, notamment dans des domaines sensibles comme l'éducation, l'emploi ou les services publics.