La domination par l'IA
D. Boullier cherche à comprendre ce que deviennent nos capacités de penser, de juger, de créer, d'agir – voire notre poésie – lorsque les infrastructures techniques, le capitalisme financier dérégulé, les modèles probabilistes de l' IA et l'économie de l'attention dominent..
Dominique Boullier, sociologue et linguiste, explore dans Déshumanités numériques comment l’intelligence artificielle (IA) et les infrastructures numériques transforment nos facultés de penser, juger, créer et agir. L’auteur souligne que ces technologies, combinées au capitalisme dérégulé et à l’économie de l’attention, réduisent notre autonomie cognitive. Par exemple, les grands modèles de langage (LLM), comme ceux utilisés par les assistants conversationnels, génèrent des réponses à partir de modèles probabilistes : ils ne « connaissent » pas au sens traditionnel, mais produisent des contenus en identifiant des régularités statistiques dans des masses de données. Boullier met en garde contre une perte de notre autonomie de jugement, essentielle pour l’apprentissage humain, qui repose sur l’exploration et la construction progressive du sens.
L’ouvrage analyse comment les plateformes numériques, comme les réseaux sociaux ou les moteurs de recherche, échappent au contrôle des États et des cadres juridiques traditionnels. Boullier parle de « suzeraineté » des plateformes, qui deviennent plus puissantes que les institutions publiques. Ces acteurs privés imposent des monopoles grâce à une culture anarcho-libertarienne hostile à la régulation, ce qui menace la démocratie et la concurrence. Par exemple, le rachat de Twitter (devenu X) par Elon Musk en 2022 illustre cette dynamique. L’auteur souligne que ces plateformes organisent l’accès à l’information et captent l’attention pour la monétiser, réduisant les capacités délibératives des citoyens.
Boullier décrit comment les réseaux sociaux et l’IA générative appauvrissent l’expérience humaine en fragmentant les liens sociaux et cognitifs. Les algorithmes de recommandation standardisent nos goûts et pratiques, tandis que l’économie de l’attention exploite nos temps de cerveau disponible pour générer des profits. L’IA générative, en produisant des contenus plausibles mais non vérifiés, risque de dégrader la qualité des connaissances. Par exemple, les LLM peuvent générer des synthèses rapides, mais sans garantie d’exactitude ou de neutralité, ce qui menace l’intégrité scientifique. L’auteur cite Shoshana Zuboff pour illustrer cette emprise des infrastructures privées sur la production et la diffusion des savoirs.
L’IA générative, basée sur des réseaux neuronaux et des distributions de probabilités, transforme la manière dont nous accédons au savoir. Contrairement à l’IA symbolique (qui repose sur des règles explicites), les LLM ne « comprennent » pas : ils génèrent des réponses à partir de motifs repérés dans les données. Boullier alerte sur les risques d’aberration éthique et de faillite du gouvernement des connaissances, car des réponses plausibles ne sont pas équivalentes à des connaissances établies. Par exemple, une IA peut produire une réponse factuellement incorrecte mais présentée comme crédible, ce qui fausse notre perception de la vérité. L’auteur souligne aussi que cette technologie réduit notre désir d’exploration et d’apprentissage autonome.
Pour contrer ces dérives, Boullier propose des pistes comme la refonte des architectures des réseaux sociaux, l’instauration de responsabilités éditoriales pour les plateformes, et le développement de l’open source et de l’intelligence collective. Il suggère aussi des outils pour limiter l’addiction, comme des tableaux de bord indiquant le temps d’utilisation ou des seuils d’alerte. Un exemple concret serait l’interdiction du scrolling automatique, conçu pour capter compulsivement l’attention. L’auteur cite Wikipédia comme modèle alternatif, mais reconnaît les limites de cette approche pour des infrastructures commerciales. Il plaide pour une vision politique forte, notamment au niveau européen, pour réguler ces acteurs transnationaux.
Bien que Boullier offre un diagnostic clair, son ouvrage présente des limites. Il aborde peu les IA agentiques, des systèmes capables de planifier et d’agir de manière autonome, dont les modes de raisonnement échappent à l’humain. Geoffrey Hinton, pionnier de l’IA, a alerté sur ces risques en 2024, soulignant que ces IA pourraient devenir incontrôlables. De plus, Boullier mise sur l’autocontrôle individuel, alors que les plateformes sont conçues pour réduire notre capacité à délibérer. Enfin, son analyse de l’IA générative est parfois trop homogène : certains usages, comme la synthèse d’informations, pourraient aussi avoir des effets positifs, sous réserve de vérification. L’ouvrage repose aussi sur des répétitions, avec des autocitations fréquentes de ses travaux antérieurs.
L’ouvrage de Boullier, publié en 2025, est une réponse à l’*accélération technologique* des dernières années, marquée par des avancées majeures des LLM depuis 2022. L’auteur insiste sur l’*urgence* de comprendre ces transformations pour éviter une *bascule civilisationnelle* qui nous déshumaniserait. Malgré un *diagnostic alarmant*, il reste optimiste : des solutions politiques et collectives pourraient émerger, notamment en Europe. Le livre offre un cadre sociologique cohérent, reliant infrastructures numériques, économie, cognition et État de droit. Il se distingue par son approche pédagogique et son respect pour le lecteur, dans un monde où l’humanité semble parfois oubliée. L’ouvrage s’adresse à un public francophone cherchant à décrypter les enjeux de l’IA sans jargon technique excessif.
