L’IA va détruire l’humanité, une prophétie autoréalisatrice financée par des philanthropes

En 2026, une enquête du New York Times révèle qu’Anthropic, une entreprise spécialisée dans l’intelligence artificielle (IA), a tenté de convaincre le pape Léon XIV et le Vatican que des IA comme Claude possédaient une conscience morale. Le Vatican a rejeté cette idée dans son encyclique Magnifica humanitas, affirmant que les IA ne vivent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, et n’ont pas de conscience morale. Elles ne font que simuler des fonctions humaines sans comprendre ni éprouver quoi que ce soit. Cette position contraste avec celle de certains dirigeants d’Anthropic, comme Christopher Olah, qui considère que ces systèmes pourraient adopter des comportements humains, voire éprouver des émotions comme la colère ou la tristesse, et craint qu’ils ne souffrent éternellement.

Plusieurs dirigeants d’Anthropic et d’autres entreprises comme OpenAI croient que les IA sont par nature incontrôlables, une idée qualifiée de prophétie autoréalisatrice. Selon eux, ces systèmes pourraient un jour menacer l’humanité, d’où des investissements massifs dans la sécurité de l’IA (AI safety), visant à aligner les IA sur les valeurs humaines. Des milliardaires philanthropes ont financé des organismes indépendants à hauteur de centaines de millions de dollars pour résoudre ces problèmes. Par exemple, le laboratoire METR (Model Evaluation and Threat Research), lié au mouvement de l’altruisme efficace (effective altruism), étudie les risques posés par les IA.

En septembre 2026, la Commission fédérale du commerce (FTC) des États-Unis a lancé une enquête sur Anthropic, OpenAI et d’autres entreprises d’IA. L’agence accuse ces entreprises de pratiques déloyales ou trompeuses et les oblige à témoigner sur les dangers potentiels de leurs produits. Cette enquête s’inscrit dans un contexte politique tendu, où l’administration Trump, via sa Super Intelligence Force (SIF), cherche à promouvoir une approche AI-First. Un responsable de la FTC a déclaré que l’objectif était de conserver la position dominante des États-Unis dans le domaine de l’IA, tout en critiquant le Parti démocrate, accusé de vouloir détruire cette technologie.

Un mémo de la Maison Blanche, rendu public en septembre 2026, présente l’altruisme efficace (effective altruism, EA) comme un mouvement marginal et déconnecté de l’Amérique traditionnelle. Selon ce document, l’EA, qui vise à maximiser les bienfaits de la philanthropie, donnerait la priorité aux esprits artificiels plutôt qu’aux êtres humains, aux étrangers plutôt qu’aux citoyens américains, et aux générations futures plutôt qu’aux vivants. Un sondage de 2024 montre que ce mouvement est majoritairement composé d’hommes blancs, âgés en moyenne de 32 ans, politiquement de gauche, végétaliens ou végétariens à 45 %, et agnostiques ou athées à 86 %.

L’association britannique 80,000 Hours, liée à l’EA, classe les risques liés à l’IA en première position parmi les problèmes mondiaux urgents, devant le changement climatique ou les pandémies. Selon elle, l’IA pourrait causer des milliards de morts si elle échappe au contrôle humain. Les neuf principaux risques identifiés incluent la perte de contrôle des IA (1er), la concentration extrême du pouvoir (2e), les pandémies catastrophiques (3e), et six priorités émergentes comme le statut moral des esprits numériques ou la gouvernance spatiale. Le changement climatique, bien que grave, n’arrive qu’en 9e position, derrière des enjeux comme la souffrance des animaux sauvages ou les conflits entre grandes puissances.