L’IA générative empêche d’admettre que nous ne savons pas

Alors que le gouvernement a annoncé que les élèves de seconde bénéficieraient à la rentrée d’une heure de cours d’intelligence artificielle par semaine, des chercheurs ont testé la capacité des êtres humains à déléguer leur esprit critique à une IA. Paradoxalement, ceux qui avaient le droit d’inter…

Résumé

L'IA et la confiance excessive

Une étude récente menée par trois chercheurs universitaires, dont Walter Quattrociocchi, a révélé un paradoxe troublant : les personnes autorisées à consulter une intelligence artificielle (IA) générative pour répondre à des questions affichent un niveau de confiance deux fois plus élevé que celles qui ne le peuvent pas.

Pourtant, ces dernières se trompent bien moins souvent.

L'expérience a été menée sur 3 132 participants, divisés en deux groupes.

Le premier devait répondre seul à six questions pointues, tandis que le second pouvait s'appuyer sur une IA.

Le groupe sans IA a répondu correctement à 27 % des questions, contre seulement 9 % pour le groupe avec IA.

Cependant, leur niveau de confiance était de 30 % contre 76 % pour l'autre groupe.

L'IA utilisée, Step 3.5 Flash, était connue pour produire des réponses hallucinées (fausses mais plausibles) dans 100 % des cas, ce qui illustre un biais de confiance aveugle.