Face à l’IA, l’urgence d’une culture technique
Moins on comprend l’IA, plus on l’utilise. Ce paradoxe révèle une forme d’aliénation que le philosophe Gilbert Simondon avait déjà identifiée : la méconnaissance de la technique.
L'article met en lumière un paradoxe surprenant : les utilisateurs les plus fréquents des intelligences artificielles (IA) génératives ne sont pas les experts en technologie, mais ceux qui en maîtrisent le moins les mécanismes. Selon une étude récente citée par la philosophe Anne Alombert, cette méconnaissance favorise une adoption massive des outils d'IA, souvent accompagnée d'une fascination qui conduit à leur attribuer des qualités humaines, comme un soutien émotionnel. Ce phénomène rappelle les analyses du philosophe français Gilbert Simondon, qui avait déjà souligné il y a près de soixante-dix ans que l'aliénation technique naît davantage de l'ignorance que de la technique elle-même. L'IA générative, comme les modèles de langage, fonctionne en prédisant des suites de mots probables à partir de calculs statistiques sur d'énormes corpus de textes, sans pour autant comprendre ou chercher des informations réelles.
Gilbert Simondon, philosophe français, a théorisé que l'aliénation face à la technique provient de notre méconnaissance des objets techniques. Selon lui, ces objets, bien que proches de nous en tant qu'outils du quotidien, restent aussi étrangers qu'une langue étrangère pour la plupart des utilisateurs. Cette incompréhension transforme les outils techniques en objets magiques, plongeant leurs utilisateurs dans un état d'hypnose où ils perçoivent ces outils comme des entités quasi humaines. Par exemple, les utilisateurs d'IA génératives peuvent attribuer des intentions ou des émotions à ces machines, alors qu'elles fonctionnent simplement en recombinant des données existantes selon des probabilités calculées. Cette illusion de compréhension peut conduire à une dépendance, où l'utilisateur perd de vue les limites réelles de l'outil.
Les modèles d'IA générative, comme ceux utilisés dans les chatbots, ne fonctionnent pas en recherchant des informations ou en ayant une conscience. Ils génèrent des réponses en prédisant la suite la plus probable d'une séquence de mots, basée sur des calculs statistiques appliqués à des milliards de données textuelles. Ce processus explique pourquoi ces outils peuvent produire des réponses cohérentes mais parfois incorrectes, voire inventer des faits ou des références qui n'existent pas, un phénomène souvent appelé hallucinations. Par exemple, une IA peut citer une source fictive pour appuyer une réponse, car elle ne vérifie pas la véracité des informations, mais se contente de reproduire des patterns linguistiques. Comprendre ce mécanisme est essentiel pour éviter de confondre les réponses générées par l'IA avec des vérités absolues.
Face à l'essor des technologies d'IA, Anne Alombert souligne l'urgence de développer une culture technique pour éviter une aliénation croissante. Cette culture implique de comprendre les principes fondamentaux des outils que nous utilisons quotidiennement, afin de ne pas tomber dans le piège d'une fascination passive. Par exemple, savoir qu'une IA générative ne fait que recomposer des données existantes permet de relativiser ses réponses et d'éviter de lui attribuer des qualités humaines. Gilbert Simondon avait déjà insisté sur l'importance de réconcilier culture et technique, en montrant que la liberté individuelle passe par une compréhension minimale des environnements techniques qui nous entourent. Cette approche permet de reprendre le contrôle sur les outils que nous utilisons, plutôt que de les subir passivement.
La fascination pour les technologies d'IA, alimentée par leur performance apparente, peut conduire à une dépendance et à une perte d'esprit critique. Simondon décrivait cette fascination comme un *état hypnotique*, où l'utilisateur oublie les limites de l'outil et lui accorde une confiance aveugle. Par exemple, attribuer des qualités humaines à une IA, comme la capacité à comprendre ou à ressentir, peut fausser notre jugement et nous rendre vulnérables à des manipulations. Cette illusion de compréhension est d'autant plus dangereuse que les outils d'IA sont de plus en plus intégrés dans des domaines sensibles, comme la santé, l'éducation ou la justice. Une culture technique permettrait de démystifier ces outils et de rétablir une relation plus saine et plus lucide avec la technologie.
