L’IA est un mauvais médecin mais personne ne peut lui enlever son droit d’exercer
Beaucoup interrogent déjà l'IA sur leur santé comme ils consulteraient un médecin. Ses erreurs ne laissent aucune trace exploitable, et les autorités sanitaires n'ont aucun moyen de les recenser.
En octobre 2026, des chercheurs de l'université Stanford, dont Matthew DeVerna, publient une étude dans la revue Nature Health alertant sur les risques liés à l'utilisation des intelligences artificielles (IA) génératives pour prodiguer des conseils médicaux. Ces outils, souvent sous forme de chatbots (programmes conversationnels capables de répondre à des questions en langage naturel), sont de plus en plus consultés par le public comme des médecins virtuels. Cependant, contrairement à un professionnel de santé, ces systèmes ne laissent aucune trace de leurs erreurs, ce qui rend impossible leur recensement ou leur analyse par les autorités sanitaires. Cette absence de transparence expose les utilisateurs à des diagnostics erronés sans possibilité de recours ou de correction.
Les chercheurs distinguent deux situations où les utilisateurs sont exposés aux conseils médicaux de l'IA. La première, dite involontaire, survient lorsque des résumés automatiques générés par l'IA apparaissent en tête des résultats de recherche en ligne, sans que l'utilisateur n'ait nécessairement cherché un avis médical. La seconde, active, correspond à une recherche délibérée de conseils auprès de moteurs de recherche ou de chatbots. Dans les deux cas, les erreurs commises par l'IA disparaissent avec la fin de la conversation, sans qu'aucun mécanisme ne permette de les signaler ou de les corriger. Les chercheurs reconnaissent toutefois que ces outils peuvent apporter des bénéfices, notamment pour des patients isolés ou ceux ayant des difficultés avec le langage médical.
Les chercheurs soulignent que la production de fausses informations médicales par l'IA est désormais à la portée de tous, y compris des acteurs malveillants. En imitant le vocabulaire et le style des professionnels de santé, ces systèmes peuvent générer des conseils de santé personnalisés et plausibles en quelques secondes. Une fois diffusés, ces faux conseils se propagent rapidement via des messageries privées ou les réseaux sociaux, avant qu'aucune alerte ne puisse être lancée. Contrairement à un médecin qui ne peut tromper qu'un seul patient à la fois, une IA consultée par des millions de personnes peut diffuser la même erreur à grande échelle, sans que personne ne puisse en mesurer l'impact réel.
L'un des principaux problèmes identifiés par les chercheurs est l'absence de cadre clair pour attribuer les responsabilités en cas d'erreur médicale commise par une IA. Les fabricants des modèles d'IA, les plateformes qui les intègrent (comme les moteurs de recherche ou les applications) et les éditeurs de sites web se renvoient mutuellement la responsabilité, laissant les utilisateurs dans l'ignorance quant à l'origine des conseils reçus. Aucune autorité sanitaire ne dispose actuellement d'un pouvoir équivalent à celui qui permet de suspendre un médecin ou de retirer un médicament du marché. Cette situation rend impossible toute sanction ou correction rapide des erreurs.
Pour remédier à ces problèmes, les auteurs de l'étude appellent à la mise en place de mécanismes similaires à ceux existant pour les professionnels de santé. Ils réclament notamment une transparence accrue sur les contenus diffusés par l'IA, la possibilité pour les utilisateurs de signaler des préjudices directement aux plateformes, et une attribution claire des responsabilités entre les différents acteurs (fabricants, plateformes, éditeurs). Ces mesures pourraient aller de l'auto-régulation des entreprises à l'adoption de lois spécifiques. En Europe, le règlement sur l'IA de 2024 classe déjà certains usages médicaux de l'IA parmi les *systèmes à haut risque*, mais les chatbots généralistes échappent encore à cette réglementation.
