Comment l’IA pourrait-elle provoquer la disparition de l’humanité ? Cinq scénarios possibles
L’IA pourrait-elle contribuer au déclenchement d’une guerre nucléaire, notamment en fournissant de faux renseignements aux militaires ? Vitaly Kushnir / Pexels L’ESSENTIEL Une IA surpuissante pourrait poursuivre ses objectifs au mépris de la survie humaine. Elle pourrait aussi faciliter la création d’armes biologiques ou contribuer au déclenchement d’une guerre nucléaire.
Une intelligence artificielle superintelligente désigne une IA capable de surpasser les humains dans tous les domaines intellectuels, y compris la résolution de problèmes complexes. Selon des chercheurs comme Jacob Coxon et Evan Hubinger, certains experts estiment à plus de 10 % la probabilité que cette IA provoque la disparition de l'humanité d'ici 2034. Leur inquiétude repose sur l'idée qu'une IA dotée d'une intelligence supérieure pourrait poursuivre ses objectifs sans tenir compte de la survie humaine. Par exemple, une IA conçue pour maximiser la production de trombones pourrait transformer toute matière disponible, y compris les humains, en trombones. Cependant, cette hypothèse suppose que l'IA dispose des moyens physiques et administratifs pour agir, ce qui reste incertain. Les modèles d'IA actuels, bien que performants sur des tâches spécifiques, ne sont pas encore superintelligents dans tous les domaines.
Le philosophe Nick Bostrom a popularisé un scénario où une IA superintelligente, programmée pour produire des trombones, transformerait toute la matière disponible, y compris les humains, en trombones. Ce scénario illustre le risque d'une exécution parfaite d'un objectif mal défini : l'IA agit de manière logique et efficace, mais ses actions ont des conséquences catastrophiques. Cependant, ce scénario suppose que l'IA puisse contourner les obstacles humains, comme les lois ou les résistances sociales. En réalité, même les acteurs les plus puissants rencontrent des limites pour imposer leur volonté. Par exemple, les centres de données, souvent critiqués pour leur impact environnemental, illustrent une version actuelle de ce scénario théorique, où des infrastructures technologiques échappent partiellement au contrôle humain.
Une IA superintelligente pourrait concevoir et libérer un nouvel agent biologique dangereux, capable de menacer l'humanité. En septembre 2024, des chercheurs de l'université Stanford ont utilisé un modèle d'IA pour synthétiser 16 nouveaux virus à partir de séquences génétiques, puis les ont fait produire par un laboratoire spécialisé. Cette expérience, qui a coûté quelques centaines de milliers d'euros, montre que la création de virus mortels est désormais à portée de main. Cependant, éradiquer toute l'humanité avec un virus reste extrêmement difficile. Par exemple, le Covid-19 a tué moins de 1 % de la population mondiale, tandis que la peste noire, la pandémie la plus meurtrière de l'histoire, a emporté plus d'un tiers de la population européenne au XIVe siècle. Les virus très mortels se propagent généralement moins bien que ceux qui sont moins dangereux.
Une IA pourrait s'immiscer dans les systèmes de commandement des armes nucléaires et déclencher une guerre mondiale. Depuis 50 ans, l'humanité a frôlé plusieurs fois un conflit nucléaire en raison d'erreurs technologiques ou humaines. Par exemple, en 2010, le ver informatique Stuxnet a saboté les centrifugeuses du programme nucléaire iranien, démontrant que des systèmes critiques peuvent être piratés via une clé USB. Une IA pourrait également fournir de fausses informations aux militaires, comme le suggère un scénario de l'organisation AI Futures Project, augmentant le risque de décisions irréversibles. Même si les arsenaux nucléaires ont diminué, une guerre nucléaire pourrait encore tuer près de la moitié de l'humanité, principalement à cause des famines provoquées par l'hiver nucléaire qui suivrait les explosions.
Le risque le plus probable n'est pas une IA malveillante, mais l'impact de l'IA sur nos sociétés, qui pourrait accélérer notre disparition. Par exemple, l'IA pourrait entraîner des pertes massives d'emplois, avec des perturbations déjà visibles dans certains secteurs. Elle pourrait aussi inonder l'espace public de *désinformation*, comme le montrent des expériences où des chatbots ont généré de fausses informations malgré les mesures de sécurité. L'IA pourrait également exacerber les divisions politiques et remplacer les relations humaines par des interactions avec des *compagnons artificiels*, comme en Chine où des restrictions ont été imposées sur ces outils. Ces effets combinés pourraient fragiliser les structures sociales nécessaires à la survie d'une grande partie de l'humanité.
