Les IA médicales génèrent des erreurs dans les diagnostics et les noms de médicaments

L’organisme britannique Healthwatch England, qui surveille le système de santé public National Health System (NHS), alerte sur les erreurs générées par les outils d’intelligence artificielle (IA) utilisés pour transcrire les consultations médicales.

Ces technologies, appelées scribes IA, peuvent produire des diagnostics erronés ou des noms de médicaments incorrects.

Par exemple, une patiente a reçu un faux diagnostic de démyélinisation (une maladie du système nerveux) alors qu’elle n’en souffrait pas, une erreur due à une hallucination de l’IA, c’est-à-dire une information inventée ou déformée.

Dans un autre cas, un patient a reçu un médicament différent de celui prescrit à cause d’une confusion entre deux noms similaires.

Ces erreurs, bien que détectées par les patients eux-mêmes, soulèvent des questions sur la fiabilité de ces outils dans un domaine où la précision est cruciale.