Les IA médicales génèrent des erreurs dans les diagnostics et les noms de médicaments
Alors qu’un nombre croissant de médecins recourent à l’IA pour enregistrer et retranscrire leurs consultations, un organisme de surveillance du système de santé publique britannique alerte sur la propension de ces dispositifs à générer des erreurs. Ces dernières peuvent avoir de réelles répercussions sur la vie des patients.
L’organisme britannique Healthwatch England, qui surveille le système de santé public National Health System (NHS), alerte sur les erreurs générées par les outils d’intelligence artificielle (IA) utilisés pour transcrire les consultations médicales. Ces technologies, appelées scribes IA, peuvent produire des diagnostics erronés ou des noms de médicaments incorrects. Par exemple, une patiente a reçu un faux diagnostic de démyélinisation (une maladie du système nerveux) alors qu’elle n’en souffrait pas, une erreur due à une hallucination de l’IA, c’est-à-dire une information inventée ou déformée. Dans un autre cas, un patient a reçu un médicament différent de celui prescrit à cause d’une confusion entre deux noms similaires. Ces erreurs, bien que détectées par les patients eux-mêmes, soulèvent des questions sur la fiabilité de ces outils dans un domaine où la précision est cruciale.
Au Royaume-Uni, au moins 27 outils de transcription par IA sont déjà utilisés par des professionnels de santé, et le gouvernement britannique prévoit leur généralisation sur dix ans. L’objectif est de réduire la charge administrative des médecins pour leur permettre de consacrer plus de temps aux soins. Cependant, cette dépendance à l’IA pose problème, car ces outils ne sont pas encore encadrés comme des dispositifs médicaux, malgré leurs risques. Par ailleurs, des moteurs d’IA grand public, comme ChatGPT Health d’OpenAI, intègrent désormais des fonctionnalités pour gérer les dossiers patients, notamment aux États-Unis, où les cliniciens peuvent importer des données et interroger l’outil. Cette évolution montre une adoption rapide de l’IA dans le domaine médical, mais aussi des lacunes en matière de régulation.
Les outils d’IA présentent plusieurs limites techniques et biais. Par exemple, certains accents ou expressions peuvent être mal compris par les systèmes de transcription, rendant les échanges incompréhensibles pour les patients. De plus, des biais de représentation ont été observés : des outils grand public conseillent aux hommes de se rendre aux urgences pour des symptômes similaires à ceux des femmes, à qui on recommande d’attendre un rendez-vous. Dans le domaine médical, des IA utilisées pour générer des cas cliniques synthétiques surévaluent les risques masculins et sous-représentent ceux des femmes. Ces dysfonctionnements soulèvent des inquiétudes quant à l’équité et à la sécurité des patients, d’autant que ces outils ne sont pas toujours conçus pour être inclusifs.
Au Royaume-Uni, les *scribes IA* ne sont pas classés comme des dispositifs médicaux, ce qui limite leur encadrement juridique. *Healthwatch England* juge cette situation *inquiétante*, car elle ne permet pas de garantir la sécurité des patients. En revanche, dans l’Union européenne, ces outils sont soumis à des réglementations strictes, comme le *règlement sur l’intelligence artificielle* et celui relatif à l’*espace européen des données de santé*. Ces textes classent les applications médicales comme à haut risque, imposant des précautions renforcées. Pourtant, en 2025, une cinquantaine de chercheurs internationaux ont critiqué l’absence d’évaluations complètes et rigoureuses sur l’utilisation de l’IA générative par les professionnels de santé, soulignant le besoin d’un cadre plus strict pour éviter les erreurs.
