Supervision humaine et AI Act : 7 processus que le juriste doit installer dans l'organisation.

Pour un système à haut risque, « un humain dans la boucle » ne suffit pas. La vraie question est : cet humain peut-il comprendre, contester, interrompre et assumer la décision ? L'article 14 de l'AI Act impose, pour les systèmes d'IA à haut risque, un contrôle humain effectif. La Commission europée…

Résumé

Cartographier l'IA

L’article 14 de l’AI Act (règlement européen sur l’intelligence artificielle) impose aux organisations de mettre en place un contrôle humain effectif sur les systèmes d’IA classés à haut risque.

Pour y parvenir, la première étape consiste à cartographier les décisions où l’IA intervient.

Plutôt que de partir des outils technologiques, il faut analyser les processus décisionnels en identifiant les étapes où l’IA recommande, classe, sélectionne, rédige ou déclenche une action.

L’objectif est de déterminer clairement quel humain conserve la décision finale et reste responsable.

Cette approche permet de cibler les points critiques où la supervision humaine est indispensable, en évitant une approche purement technique qui ignorerait les enjeux organisationnels et éthiques.

La Commission européenne souligne que cette cartographie doit être exhaustive pour garantir que chaque intervention de l’IA soit couverte par un contrôle humain adéquat.