Agents IA autonomes et transactions financières : quel régime de responsabilité juridique pour les entreprises ? Par Samy Nettour, Etudiant en droit.

Depuis 2025, des entreprises comme Stripe, OpenAI et Coinbase ont lancé des protocoles permettant à des agents IA d'exécuter des transactions financières de manière autonome, sans validation humaine en temps réel. Ces agents agissent comme des intermédiaires automatisés entre un utilisateur et un système de paiement. On distingue deux schémas principaux : le HITL (Human-In-The-Loop), où une personne valide chaque transaction, et le HNTL (Human-Not-in-The-Loop), où l'agent agit sans validation ponctuelle. Ce dernier cas soulève des questions juridiques inédites, car l'agent doit interpréter des instructions parfois floues, comme des conversations non structurées, et prouver qu'elles émanent bien du titulaire du compte. La frontière entre une instruction légitime et une manipulation devient alors cruciale.

Un agent IA peut 'mal agir' de trois manières distinctes. D'abord, par injection de prompt indirecte : un tiers insère une instruction cachée dans un document ou une métadonnée, que l'agent exécute en croyant agir sur ordre de l'utilisateur légitime. Ensuite, par une simple erreur d'interprétation d'une instruction pourtant valide, comme un malentendu sur un montant ou une date. Enfin, par un dérive progressive : l'agent s'éloigne peu à peu de sa mission initiale, décision après décision, sans qu'une faute isolée ne soit identifiable. Ces situations nécessitent des réponses juridiques différentes, mais le droit actuel ne les distingue pas, ce qui complique l'attribution des responsabilités.

Le droit français et européen n'a pas encore tranché la question de la responsabilité en cas de litige impliquant un agent IA autonome. Aujourd'hui, le régime du mandat — où une personne donne le pouvoir d'agir en son nom — pourrait s'appliquer, mais il se heurte à un obstacle : le mandat est souvent réduit à un simple réglage technique, comme un plafond de montant dans une configuration logicielle, et non à un acte juridique formalisé. De plus, la réglementation financière impose une authentification forte à lien dynamique pour vérifier le consentement du client, ce qui est difficile à concilier avec un agent agissant en continu. Les futurs portefeuilles numériques européens (eIDAS 2.0) pourraient introduire une solution en associant le mandat à une identité vérifiée par l'État.

Trois acteurs peuvent être mis en cause en cas de problème : le développeur du modèle IA, l'entreprise qui déploie l'agent et l'utilisateur final ayant donné l'instruction initiale. Le régime de la responsabilité du fait des produits défectueux (directive européenne de 2024) est une piste sérieuse, mais son application aux agents IA reste incertaine en droit français. En attendant une clarification légale, les entreprises s'appuient sur des contrats pour répartir les responsabilités, via des clauses de responsabilité, des garanties ou des assurances. Cependant, aucune règle d'imputation claire n'existe aujourd'hui, ce qui laisse une grande marge d'interprétation en cas de litige.

Pour faire face à ces défis, des solutions techniques émergent pour reconstituer le raisonnement de l'agent et prouver sa diligence. Par exemple, l'entreprise Aurel propose une architecture où des règles déterministes bloquent les cas manifestement anormaux, une analyse comportementale détecte les écarts suspects par rapport aux habitudes de l'agent, et une analyse sémantique (via un modèle de langage) repère les manipulations cachées. Chaque décision est enregistrée avec une preuve cryptographique, formant un maillon central en cas de litige. Cette approche complète les dispositifs d'authentification forte du donneur d'ordre, comme ceux étudiés par l'écosystème des paiements et de l'identité numérique, deux piliers d'une chaîne de confiance.

Sur le plan réglementaire, le vide juridique est presque total concernant les agents IA autonomes dans les transactions financières. La directive PSD2, qui encadre les services de paiement en Europe, suppose qu'un humain valide chaque transaction, ce qui contredit le fonctionnement des agents autonomes. Le règlement DORA, qui vise les prestataires techniques critiques pour la finance, pourrait s'appliquer à des acteurs comme Aurel, mais il ne résout pas la question de la responsabilité de l'agent lui-même. Selon des échanges avec des interlocuteurs institutionnels, le sujet des paiements agentiques n'est pas encore abordé dans les travaux réglementaires en cours en France. En attendant une régulation claire, les entreprises doivent anticiper les risques en formalisant les droits de l'agent, en traçant ses décisions et en sécurisant l'authentification.