L'arrêt qui n'existait pas : de la relecture vers la vérification, le vrai sujet que l'IA générative pose aux cabinets.

Une jurisprudence inventée par un modèle de langage ne se repère pas à la lecture : elle porte un numéro de pourvoi plausible, une date plausible, une chambre plausible. Elle ne se trahit qu'au moment où l'on interroge la base officielle. Ce déplacement de la relecture vers la vérification est le v…

Résumé

Hallucinations trompeuses

L’article introduit le concept d’hallucination dans le contexte de l’intelligence artificielle générative, un terme qui désigne une information fausse mais présentée de manière convaincante.

Contrairement à une erreur évidente, ces hallucinations imitent parfaitement la structure et le style des références juridiques, comme une citation de jurisprudence (*exemple : « Cass.

civ.

1re, 14 mars 2019, n° 17-24.892 »*).

Aucun élément ne semble faux à première vue : la chambre (*Cass.

civ.

1re* pour la première chambre civile), la date et le numéro de pourvoi respectent les conventions.

Pourtant, cette référence n’existe dans aucune base de données officielle.

L’affaire *Mata c.

Avianca* (juin 2023) illustre ce risque : deux avocats américains ont été sanctionnés pour avoir utilisé des décisions entièrement inventées par ChatGPT dans un mémoire judiciaire.

Cette pratique, désormais répandue, pourrait toucher la France avec l’adoption croissante de l’IA dans la rédaction d’actes juridiques.