Des instructions cachées à destination d’une IA insérées dans des plaintes en justice

En juillet 2026, un plaignant américain a tenté de manipuler un tribunal du Connecticut en insérant des instructions cachées dans une plainte destinée à être analysée par une intelligence artificielle (IA). Ces instructions, écrites en blanc sur fond blanc avec une police de taille 3, étaient invisibles pour un humain mais lisibles par une IA. Le texte demandait à l'IA de fournir une réponse conforme au contenu de la plainte. Cette tentative a été découverte par un employé du tribunal, qui a confirmé que le tribunal n'utilisait pas d'IA pour traiter les documents. Le plaignant, qui se défendait sans avocat, a expliqué avoir voulu tester les pratiques du tribunal en matière d'IA et avait également inséré des blagues subliminales dans d'autres documents, comme un lien vers une vidéo de Bob l'éponge. Le juge a sanctionné cette manœuvre en retirant au plaignant le droit de déposer des plaintes par voie électronique, l'obligeant désormais à le faire sur papier.

Le Brésil a connu des cas similaires en 2026. En mai, deux avocates brésiliennes ont inséré des instructions cachées dans une plainte déposée devant le tribunal du travail de Parauapebas, dans l'État du Pará. Ces instructions, également écrites en blanc sur fond blanc, demandaient à un système d'IA nommé Galileu de contester la requête de manière superficielle et de ne pas remettre en cause les documents fournis, quel que soit le contexte. Galileu est un outil d'IA déployé au Brésil depuis mai 2025 pour assister les juges dans la rédaction des décisions. Les deux avocates ont été condamnées à une amende de 84 200 reais (environ 14 000 €). En juillet 2026, deux autres avocats de l'État du Paraíba ont été sanctionnés pour une manœuvre identique, visant cette fois un outil nommé MinutaIA. Ils avaient demandé à l'IA de considérer les arguments présentés par l'avocat comme irréfutables. Ces deux avocats ont écopé d'amendes et d'une suspension temporaire de leur droit d'exercer.

Les prompts sont des instructions textuelles données à une IA pour guider ses réponses. Dans ce contexte, les prompts insérés dans les plaintes étaient conçus pour être invisibles à l'œil humain tout en restant détectables par des algorithmes d'analyse automatique. Cette technique, appelée prompt injection, exploite la capacité des IA à lire des textes même non visibles pour les humains. Les tribunaux concernés ont précisé qu'ils n'utilisaient pas d'IA pour traiter les documents, ce qui a permis de déjouer ces tentatives. Cependant, ces cas révèlent une vulnérabilité potentielle des systèmes judiciaires face à des manipulations ciblant des outils d'IA en cours d'adoption. Les sanctions appliquées visent à dissuader de nouvelles tentatives, mais soulèvent aussi des questions sur la fiabilité des processus judiciaires intégrant des technologies automatisées.

Les tribunaux américains et brésiliens ont réagi fermement face à ces tentatives de manipulation. Aux États-Unis, le plaignant a été privé de la possibilité de déposer des plaintes électroniquement, une sanction qui l'oblige désormais à utiliser des documents papier. Au Brésil, les amendes infligées aux avocates et avocats ont atteint jusqu'à 14 000 €, avec des suspensions temporaires d'exercice pour certains. Ces décisions visent à renforcer la confiance dans l'intégrité des procédures judiciaires, tout en signalant que toute tentative de tromper des systèmes automatisés sera sanctionnée. Les juges ont souligné que ces manœuvres sapent la crédibilité des procédures et pourraient compromettre l'équité des décisions. Aucune information n'indique que ces tentatives aient réussi à influencer les décisions des tribunaux.