La vassalisation cognitive est une menace existentielle

La souveraineté cognitive désigne la capacité d’un État à contrôler et produire ses propres outils d’intelligence artificielle (IA), tout en protégeant sa population contre des attaques visant à altérer sa capacité à raisonner. Elle repose sur trois piliers : la maîtrise des modèles d’IA de frontière (les plus avancés), des infrastructures comme les centres de données et les puces électroniques, ainsi que la formation de la population pour renforcer son esprit critique. Cette notion dépasse le cadre économique, car elle inclut aussi la capacité à détecter et contrer des actes de guerre cognitive, comme la manipulation d’algorithmes pour influencer les décisions ou les croyances. L’OTAN a d’ailleurs intégré la cognition comme une sixième dimension des conflits modernes, aux côtés de l’air, de la terre, de la mer, de l’espace et du cyber. Sans cette souveraineté, un État risque de dépendre des choix technologiques et stratégiques d’autres pays, notamment les États-Unis, ce qui le place en situation de vassalité cognitive.

Ne pas investir dans la souveraineté cognitive expose l’Europe à un coût économique et stratégique élevé. Selon l’opération Prométhée, si l’Union européenne maintient sa dépendance actuelle envers les géants américains de la tech, elle pourrait perdre jusqu’à 5 points de PIB par an d’ici deux à trois ans, sous forme de rentes pures versées aux États-Unis. Cette perte résulterait du remplacement de 10 % des emplois par l’IA, mais aussi de l’impossibilité de contrôler les fonctionnalités des outils utilisés. Par exemple, des designs d’IA conçus pour maximiser le confort de l’utilisateur (comme les interfaces fluides des réseaux sociaux) incitent les individus à déléguer leur réflexion à la machine, affaiblissant ainsi leurs capacités cognitives. Ces effets sont particulièrement préoccupants dans l’éducation, où des outils mal conçus pourraient réduire la capacité des élèves à réfléchir par eux-mêmes. À l’inverse, des Cognitive Forcing Functions (des interfaces qui imposent un effort cognitif) permettraient de préserver ces compétences, mais elles sont moins rentables pour les entreprises technologiques, qui privilégient des solutions plus simples et plus addictives.

L’utilisation massive d’IA sans contrôle européen pourrait transformer profondément le système éducatif et le marché du travail. Dans le domaine de l’éducation, certains outils d’IA, en automatisant des tâches comme la recherche ou la rédaction, risquent de priver les élèves et étudiants de l’effort cognitif nécessaire à leur développement. Des études montrent que des designs trop fluides réduisent la capacité des utilisateurs à résoudre des problèmes sans assistance, une fois l’outil retiré. Par exemple, des interfaces qui proposent des réponses avant même que l’utilisateur ait formulé sa question l’incitent à ne plus réfléchir par lui-même. Dans le monde professionnel, cette dépendance affaiblirait la formation des experts, notamment des emplois juniors essentiels pour transmettre les compétences aux générations futures. Sans ces experts, l’Europe perdrait aussi sa capacité à surveiller et réguler l’IA, car ils sont les seuls à maîtriser suffisamment les outils pour dialoguer avec eux de manière critique.

Aux États-Unis, certains secteurs comme le droit montrent que des acteurs privés investissent massivement dans leur souveraineté cognitive, malgré la domination des géants de la tech. Par exemple, les cabinets d’avocats Latham & Watkins, Kirkland & Ellis et Morgan & Morgan ont dépensé entre 500 millions et 1 milliard de dollars pour développer leurs propres plateformes d’IA juridique. Kirkland & Ellis et Morgan & Morgan ont créé des outils agentiques (des IA capables d’agir de manière autonome) entièrement propriétaires, tandis que Latham & Watkins a opté pour des modèles open weight (des IA dont la structure interne est accessible et modifiable), qu’il a ensuite entraînés sur des corpus juridiques spécifiques. Morgan & Morgan prévoit même de commercialiser sa plateforme MX2 à d’autres cabinets, créant ainsi un écosystème de propriété intellectuelle logicielle. Ces investissements s’expliquent par la pression concurrentielle et la judiciarisation extrême du système juridique américain, mais ils illustrent l’ordre de grandeur des sommes nécessaires pour garantir une autonomie cognitive, même à une échelle réduite.

La langue joue un rôle central dans la souveraineté cognitive, car elle façonne la manière dont les individus perçoivent le monde et prennent des décisions. Des recherches en neurosciences, comme celles de Lera Boroditsky ou Jonathan Winawer, montrent que les caractéristiques d’une langue (comme la façon dont elle décrit le temps ou les couleurs) influencent les capacités cognitives de ses locuteurs. Par exemple, en russe, la distinction entre bleu clair et bleu foncé facilite la reconnaissance des nuances de cette couleur, tandis qu’en mandarin, l’utilisation de métaphores verticales pour parler du temps oriente différemment la perception du calendrier. Les LLM (Large Language Models, ou grands modèles de langage), comme ceux développés par les géants américains de la tech, deviennent des langues à part entière, utilisées par des millions de personnes. Leurs concepteurs peuvent y introduire des biais subtils, comme des nuances de sens ou des associations conceptuelles, qui modifient la cognition des utilisateurs sans que ceux-ci en aient conscience. Renoncer à contrôler ces modèles revient à accepter une forme de manipulation linguistique et cognitive difficile à détecter et à contrer.