La stratégie d’IRCC en matière d’IA réduit les immigrants à des points de données
Un aperçu de l’approche retenue par le Québec en la matière offre une tout autre perspective..
Le film Rapport minoritaire (2002) de Steven Spielberg imagine un futur où une intelligence artificielle (IA) est utilisée par la police pour prédire et prévenir des crimes avant qu’ils ne soient commis. Ce scénario, autrefois considéré comme de la science-fiction, semble de plus en plus réaliste à mesure que l’IA se généralise dans des domaines sensibles. L’article souligne que l’IRCC (Immigration, réfugiés et citoyenneté Canada), le ministère fédéral canadien chargé de l’immigration, utilise désormais des outils d’IA pour automatiser certaines tâches, comme le tri des demandes ou l’évaluation des risques. L’objectif affiché est d’améliorer l’efficacité et de réduire la charge de travail d’un système souvent critiqué pour son engorgement. Cependant, cette automatisation soulève des questions éthiques, notamment sur le risque de réduire les immigrants à de simples points de données, sans tenir compte de la complexité humaine de leur parcours.
Une étude de l’Université de Toronto a révélé que les systèmes d’IA, lorsqu’ils sont entraînés sur des données majoritairement issues d’hommes blancs, peuvent reproduire et amplifier des biais discriminatoires. Ces biais affectent particulièrement les personnes issues de minorités visibles, qui voient leurs demandes d’immigration traitées de manière moins favorable par des algorithmes conçus pour des profils dominants. L’IRCC affirme que ses outils d’IA respectent des normes éthiques élevées, mais ne précise pas comment ces biais sont identifiés ou corrigés. Par exemple, une demande de résidence permanente pourrait être rejetée en raison d’une interprétation erronée des fonctions professionnelles d’un candidat, comme dans le cas de Kémy Adé, une chercheuse dont la demande a été refusée après une évaluation automatisée ayant attribué des tâches inexactes à son profil. Les conséquences incluent des perturbations financières, professionnelles et personnelles, ainsi que des impacts sur la santé mentale.
L’IRCC insiste sur le fait qu’un agent humain reste responsable des décisions finales, même lorsque l’IA est utilisée pour assister le processus. Cependant, l’article met en lumière un problème plus profond : l’IA influence déjà la perception des décideurs avant qu’ils n’interviennent. Par exemple, un algorithme pourrait classer une demande comme à faible priorité en raison de critères mal adaptés, ce qui biaiserait le jugement humain ultérieur. Contrairement au Québec, qui utilise l’IA pour attirer des immigrants qualifiés en technologies, l’IRCC se concentre davantage sur l’automatisation des procédures existantes. Cette approche soulève une question : les gouvernements valorisent-ils suffisamment les immigrants pour leur expertise, ou les traitent-ils avant tout comme des données à traiter rapidement ?
Derrière chaque dossier d’immigration se cache une personne ayant investi des années de travail, d’études et d’espoir pour s’installer au Canada. Les documents soumis à l’IRCC racontent des histoires complexes, marquées par des épreuves, des réussites et des motivations profondes. Pourtant, l’automatisation croissante des procédures risque de réduire ces parcours à des *points de données* abstraits, ignorés par les algorithmes. Le cas de Kémy Adé illustre ces conséquences : une erreur d’évaluation a entraîné le rejet de sa demande, provoquant une instabilité financière et des perturbations professionnelles et personnelles. L’article souligne que l’efficacité ne doit pas primer sur la compréhension humaine, car chaque dossier représente une vie en jeu. La question centrale n’est donc pas seulement de savoir *qui* prend la décision finale, mais *comment* l’IA modifie la perception des décideurs avant même leur intervention.
