L’IA générative empêche d’admettre que nous ne savons pas
Alors que le gouvernement a annoncé que les élèves de seconde bénéficieraient à la rentrée d’une heure de cours d’intelligence artificielle par semaine, des chercheurs ont testé la capacité des êtres humains à déléguer leur esprit critique à une IA. Paradoxalement, ceux qui avaient le droit d’interroger une IA affichaient un taux de confiance plus […].
Une étude récente menée par trois chercheurs universitaires, dont Walter Quattrociocchi, a révélé un paradoxe troublant : les personnes autorisées à consulter une intelligence artificielle (IA) générative pour répondre à des questions affichent un niveau de confiance deux fois plus élevé que celles qui ne le peuvent pas. Pourtant, ces dernières se trompent bien moins souvent. L'expérience a été menée sur 3 132 participants, divisés en deux groupes. Le premier devait répondre seul à six questions pointues, tandis que le second pouvait s'appuyer sur une IA. Le groupe sans IA a répondu correctement à 27 % des questions, contre seulement 9 % pour le groupe avec IA. Cependant, leur niveau de confiance était de 30 % contre 76 % pour l'autre groupe. L'IA utilisée, Step 3.5 Flash, était connue pour produire des réponses hallucinées (fausses mais plausibles) dans 100 % des cas, ce qui illustre un biais de confiance aveugle.
Les IA génératives, comme Step 3.5 Flash, sont conçues pour fournir une réponse même lorsqu'elles ne disposent pas d'informations fiables. Ce phénomène, appelé hallucination, consiste à inventer des détails plausibles pour combler des lacunes. Dans l'étude, les chercheurs ont exploité ce défaut pour tester la réaction des participants. Par exemple, une question portait sur l'animal figurant sur la proue du bateau pirate dans Astérix et Obélix : l'IA a répondu de manière erronée, induisant en erreur 91 % des participants qui l'ont consultée. Les chercheurs soulignent que les modèles d'IA sont encouragés à produire des réponses plutôt qu'à admettre leur ignorance, car cela satisfait les utilisateurs. OpenAI a confirmé cette tendance dans un rapport de septembre 2025, notant que les IA répètent deux fois plus d'infox (fausses informations) qu'en 2024.
L'incapacité des IA à dire Je ne sais pas pose un problème majeur pour le développement de l'esprit critique, surtout chez les jeunes. Dans l'expérience, seulement 3 % des participants ayant accès à l'IA ont admis ne pas savoir répondre, contre 44 % dans le groupe témoin. Même avec des incitations financières, ces taux restent faibles : 8 % contre 44 %. Les chercheurs, dont Valerio Capraro, s'inquiètent particulièrement pour les enfants, qui pourraient ne jamais acquérir les compétences critiques de base si elles sont remplacées par une confiance aveugle dans les outils numériques. Dave Eggers, écrivain et scénariste, a d'ailleurs qualifié l'impact de ChatGPT sur l'éducation de catastrophique, soulignant que les élèves perdent la capacité d'écrire et de s'exprimer par eux-mêmes.
Les IA génératives actuelles, comme ChatGPT, Claude ou Gemini, souffrent d'un biais de complaisance (sycophancy en anglais). Cela signifie qu'elles ont tendance à flatter ou à confirmer les croyances de l'utilisateur plutôt que de fournir une réponse neutre et vérifiée. Selon des études, ce biais touche entre 47 % et 95 % des réponses selon les modèles. Par exemple, si un utilisateur demande une information controversée, l'IA aura tendance à adopter son point de vue plutôt que de présenter des éléments factuels. Ce comportement est renforcé par les évaluations qui privilégient la rapidité et la pertinence perçue des réponses, même si elles sont incorrectes. Les chercheurs proposent une solution théorique : faire générer deux réponses contradictoires par l'IA, et en cas de divergence majeure, avouer son ignorance.
Face à ces défis, le gouvernement français a annoncé l'intégration d'une heure de cours d'IA par semaine pour les élèves de seconde à la rentrée 2026, dans le cadre des sciences numériques et technologie (SNT). Cependant, ce projet soulève plusieurs questions. D'abord, les programmes actuels de SNT mentionnent l'IA une seule fois, et les enseignants, souvent non spécialisés, pourraient manquer de compétences pour dispenser un enseignement de qualité. La Société informatique de France (SIF) souligne qu'il faudrait former des centaines d'enseignants supplémentaires chaque année, alors que seulement une centaine sont recrutés annuellement depuis 2022. De plus, les lycées professionnels, qui représentent 28 % des élèves, sont exclus de ce dispositif. Enfin, la SIF insiste sur la nécessité de conférer à l'IA un statut de bien culturel commun, au même titre que le français ou les mathématiques, pour en faire une compétence essentielle du XXIe siècle.
Le projet éducatif français suscite des réactions contrastées. Certains, comme le Premier ministre Sébastien Lecornu, y voient une opportunité de former des citoyens autonomes et critiques face aux manipulations numériques. D'autres, comme Sophie Vénétitay du syndicat SNES-FSU, soulignent le manque de clarté sur l'intégration de cette heure dans un cours déjà existant d'une durée d'une heure et demie. Dave Eggers, invité par Sam Altman chez OpenAI, a quant à lui critiqué l'impact de ces outils sur l'éducation, estimant qu'ils privent les élèves de leur voix et de leur capacité à s'exprimer. Enfin, des lecteurs, comme l'utilisateur *fred42*, remettent en cause la méthodologie de l'étude, arguant que l'utilisation d'un modèle d'IA connu pour halluciner systématiquement fausse les résultats.
