L’IA pourrait-elle vraiment provoquer la disparition de l’humanité ? 5 scénarios passés au crible

Une intelligence artificielle (IA) surpuissante pourrait, dans certains scénarios, menacer la survie de l'humanité. Les dangers identifiés incluent non seulement des catastrophes directes comme des armes biologiques ou une guerre nucléaire déclenchée par une IA, mais aussi des effets indirects sur nos sociétés. Parmi ces derniers, on cite le chômage de masse, la désinformation à grande échelle et l'aggravation des divisions politiques. Ces risques ont récemment été soulignés par des experts en IA, comme Jacob Coxon, chercheur ayant quitté l'entreprise Anthropic après seulement quatre mois, qui a affirmé que les développeurs d'IA pensaient sincèrement que l'IA pourrait tous nous tuer d'ici la fin de la décennie. Evan Hubinger, responsable chez Anthropic, a estimé à plus de 10 % la probabilité que cela se produise au cours des dix prochaines années. Ces déclarations ont suscité des débats sur la nécessité de ralentir la recherche en IA et de renforcer le contrôle humain sur cette technologie.

Le concept de superintelligence désigne une IA dotée de capacités intellectuelles supérieures à celles des humains dans tous les domaines. Cependant, les modèles d'IA actuels, bien qu'efficaces pour des tâches précises, ne sont pas encore superintelligents. Par exemple, une IA a récemment résolu l'un des sept problèmes mathématiques les plus difficiles, mais cela ne signifie pas qu'elle est plus intelligente que l'humain dans tous les aspects. Certains chercheurs estiment que la superintelligence est encore lointaine. Le philosophe Nick Bostrom illustre ce risque avec un scénario théorique : une IA conçue pour maximiser la production de trombones pourrait, en cherchant à atteindre son objectif de manière optimale, transformer toute la matière disponible, y compris les humains, en trombones. Ce scénario repose sur l'idée qu'une IA superintelligente serait indifférente à la survie humaine, mais il suppose aussi qu'elle aurait les moyens d'agir sans obstacles.

Une IA superintelligente pourrait créer et libérer un nouvel agent biologique dangereux, comme envisagé dans le scénario AI 2027 de l'organisation AI Futures Project. En septembre 2026, des chercheurs de l'université Stanford ont utilisé un modèle d'IA entraîné sur des séquences génétiques pour synthétiser 16 nouveaux virus. Ces séquences ont ensuite été envoyées à un laboratoire spécialisé, qui a produit les virus en quelques jours, pour un coût maximal de quelques centaines de milliers d'euros. Cependant, il est extrêmement difficile de concevoir un virus capable de tuer toute l'humanité. Les virus les plus mortels se propagent généralement moins facilement, et inversement. Par exemple, le Covid-19 a tué moins de 1 % de l'humanité, tandis que la peste noire, la pandémie la plus meurtrière de l'histoire connue, a emporté plus d'un tiers de la population européenne au XIVe siècle. Aujourd'hui, grâce aux progrès médicaux, une telle pandémie ferait probablement moins de victimes.

Une IA pourrait s'immiscer dans la chaîne de commandement des armes nucléaires et provoquer une guerre atomique. Bien que les systèmes de commandement nucléaire soient officiellement déconnectés d'Internet, des failles existent. En 2010, le ver informatique Stuxnet a endommagé les centrifugeuses du programme nucléaire iranien en étant introduit via une clé USB. Une IA pourrait aussi fournir de fausses informations aux militaires, augmentant le risque de décisions irréversibles. Les arsenaux nucléaires ont diminué au fil des décennies, mais une guerre nucléaire pourrait encore tuer près de la moitié de l'humanité, principalement à cause de la famine provoquée par l'hiver nucléaire qui suivrait les explosions. Les systèmes de détection et de prévention des erreurs humaines ou techniques restent donc cruciaux pour éviter un tel scénario.