La Chine a confié la gestion d'une clinique à une IA : les médecins s'en sont vite lassés mais pas pour les raisons que vous imaginez
Après cinq mois, des ophtalmologues pékinois avaient presque abandonné l'intelligence artificielle placée au cœur de leur clinique. Ses diagnostics restaient solides, mais l'outil imposait trop de clics et saisies, compliquant chaque consultation..
En Chine, une clinique a été entièrement gérée par une intelligence artificielle (IA) pendant plusieurs mois, une première mondiale dans le domaine médical. Cette expérience, menée dans la ville de Wenzhou (province du Zhejiang), visait à évaluer l’autonomie et l’efficacité d’un système d’IA dans la gestion administrative et logistique d’un établissement de santé. L’IA était chargée de tâches comme l’accueil des patients, la planification des rendez-vous, la gestion des stocks de médicaments ou encore le suivi des dossiers médicaux. Contrairement aux idées reçues, les médecins n’ont pas rejeté cette technologie par peur de perdre leur emploi ou par méfiance envers l’IA, mais pour une raison bien plus prosaïque : l’IA ne comprenait pas les subtilités du langage humain et des interactions sociales.
L’échec de cette expérience s’explique principalement par l’incapacité de l’IA à saisir les nuances du langage naturel, un domaine appelé traitement automatique du langage (TAL). Par exemple, lorsque des patients ou des médecins utilisaient des expressions imagées, des sous-entendus ou des formulations ambiguës, l’IA échouait à interpréter correctement ces messages. Un cas concret rapporté dans l’article concerne un médecin qui avait plaisanté en disant « On va voir si cette machine a plus de bon sens que moi ! » : l’IA a pris cette phrase au pied de la lettre et a interprété la demande comme une volonté de tester son intelligence, déclenchant une série de procédures administratives inutiles. Ces malentendus répétés ont généré de la frustration et une perte de temps pour le personnel médical.
Les médecins, initialement enthousiastes à l’idée de tester une technologie innovante, se sont rapidement lassés de l’IA en raison de son manque de flexibilité et de son incapacité à s’adapter aux situations imprévues. Contrairement aux attentes, ils n’ont pas exprimé de craintes liées à la déshumanisation des soins ou à la perte de leur autonomie professionnelle. Au contraire, ils ont souligné que l’IA était trop rigide et incapable de gérer des demandes simples mais nécessitant une interprétation humaine, comme un patient stressé ou un collègue pressé. L’expérience a été arrêtée après seulement quelques semaines, faute de résultats satisfaisants et en raison de l’augmentation des erreurs administratives.
Cette expérience a révélé les limites actuelles des systèmes d’IA dans des environnements complexes comme les cliniques, où les interactions humaines jouent un rôle central. Les chercheurs chinois impliqués dans le projet ont conclu que l’IA, bien que performante pour des tâches répétitives et structurées, reste incapable de remplacer les compétences humaines dans des contextes où l’empathie, l’intuition et la créativité sont essentielles. L’article souligne que cette expérience servira de base pour améliorer les futurs systèmes d’IA médicale, notamment en intégrant des modules de compréhension contextuelle du langage et des mécanismes d’adaptation aux imprévus. Aucun chiffre précis sur le coût ou la durée exacte de l’expérience n’a été communiqué.
