Notre esprit n'est pas un ordinateur !

L'article interroge l'idée selon laquelle les machines numériques pourraient penser, comme le suggèrent les termes intelligence artificielle, apprentissage automatique ou réseaux de neurones. Ces expressions, popularisées par l'automatisation croissante, donnent l'illusion que les ordinateurs possèdent une conscience ou une capacité d'invention similaire à celle des humains. Pourtant, selon le philosophe Georges Canguilhem, cette assimilation repose sur une confusion entre calcul et pensée. Pour Canguilhem, le calcul consiste à traiter des données existantes, tandis que la pensée humaine implique l'invention, c'est-à-dire la création de quelque chose de nouveau. L'article souligne que cette distinction est essentielle pour comprendre les limites des machines, qui ne peuvent que recombiner des informations préexistantes, sans jamais proposer de rupture ou d'innovation véritable.

Georges Canguilhem, cité dans l'article, définit l'invention comme un acte qui dépasse la simple recombinaison de données. Pour lui, inventer c'est créer de l'information, perturber les habitudes de pensée et introduire une rupture dans le savoir établi. Cette idée s'oppose à la logique des machines, qui fonctionnent sur des calculs probabilistes et des statistiques. Par exemple, les systèmes d'IA générative actuels analysent des quantités massives de données pour produire des réponses ou des créations, mais ils ne font que reproduire des schémas existants. Canguilhem insiste sur le fait que l'invention nécessite une conscience d'un vide logique, une tension vers un possible et une prise de risque, des éléments absents des processus algorithmiques. Ainsi, l'invention ne peut être automatisée, car elle suppose une dimension imprévisible et subjective.

Les systèmes d'IA générative, comme ceux utilisés pour créer du texte, de la musique ou des images, renforcent les tendances majoritaires en s'appuyant sur des calculs probabilistes. Ils privilégient les expressions les plus répandues et ignorent les occurrences improbables ou originales. Ce mécanisme conduit à une uniformisation de la culture, où seules les idées dominantes sont amplifiées, tandis que les innovations marginales sont effacées. L'article souligne que cette uniformisation n'est pas neutre : elle limite la diversité des expressions culturelles et intellectuelles. Par exemple, une IA entraînée sur des œuvres passées aura tendance à reproduire les styles ou les thèmes les plus fréquents, réduisant ainsi la place pour des créations audacieuses ou disruptives. Cette dynamique pose la question de l'avenir de la pensée humaine dans un environnement de plus en plus dominé par les algorithmes.

Georges Canguilhem critiquait l'utilisation de termes comme intelligence artificielle ou machine consciente, car ils masquent la présence de décideurs humains derrière les algorithmes. Selon lui, ces expressions servent une idéologie qui présente les machines comme des entités autonomes, alors qu'elles sont conçues et contrôlées par des individus ou des organisations. L'article rappelle que l'anonymat des machines permet de neutraliser toute critique, en donnant l'impression que les décisions sont prises de manière neutre ou objective. Pourtant, les biais, les choix de conception et les objectifs des développeurs influencent directement le fonctionnement des systèmes d'IA. Ainsi, la question n'est pas tant de savoir si les machines pensent, mais de comprendre qui contrôle ces outils et dans quel but ils sont utilisés.