Un “Hiroshima de l’IA” suffira-t-il à réveiller l’humanité ?

L’intelligence artificielle (IA) connaît une progression fulgurante, au point que des experts de la Silicon Valley évoquent un décollage extraordinaire dans les années à venir. Un ami de l’université Stanford résume cette situation par l’expression Bienvenue aux portes du grand basculement !. Ce phénomène repose sur un concept technique appelé autoamélioration récursive : une IA capable de concevoir et d’améliorer elle-même des modèles plus performants, sans intervention humaine. Cela pourrait mener à une explosion exponentielle des capacités de l’IA, la rendant potentiellement plus intelligente que l’humain sur de nombreux aspects. Cette avancée est présentée comme une révolution comparable à d’autres tournants technologiques majeurs, mais avec des implications encore plus vastes et imprévisibles. Les spécialistes soulignent que cette évolution se déroule à un rythme si rapide que les mécanismes de contrôle humains peinent à suivre.

Les prédictions sur les conséquences de cette révolution technologique divergent radicalement. Elon Musk, figure emblématique de la tech, entrevoit un âge d’abondance formidable, où l’IA résoudrait des problèmes globaux comme la pauvreté ou les maladies. Cependant, il estime aussi à 10-20 % le risque que des robots tueurs échappent à tout contrôle et exterminent l’humanité. À l’inverse, Geoffrey Hinton, l’un des pères fondateurs de l’IA, exprime une inquiétude profonde : J’ai l’intuition que nous sommes cuits, déclarait-il en 2023. Cette divergence reflète l’incertitude totale qui entoure l’avenir de l’IA, entre espoirs de progrès et craintes d’un emballement incontrôlable. Le philosophe Robert Wright, dans son livre The God Test, souligne que l’humanité n’a jamais eu à choisir entre autant de futurs possibles, certains porteurs de transformations radicales, d’autres de catastrophes.

Timothy Garton Ash, historien britannique et auteur de l’article, utilise une analogie frappante pour illustrer le danger : un Hiroshima de l’IA. Cette référence à la bombe atomique de 1945 suggère qu’un événement catastrophique, voire une prise de conscience brutale, pourrait être nécessaire pour que l’humanité prenne enfin la mesure des risques liés à l’IA. Comme pour les armes nucléaires, la course à l’innovation et la compétition entre entreprises et États rendent improbable un consensus international pour encadrer cette technologie. Garton Ash compare la situation actuelle à celle des années 1940, où la communauté scientifique et politique a mis du temps à réaliser l’ampleur des dangers posés par l’énergie nucléaire. L’article interroge ainsi : une crise majeure sera-t-elle le seul moyen de réveiller les consciences ?

Dans la Silicon Valley, épicentre de l’innovation technologique, les acteurs du secteur sont divisés. Certains, comme Elon Musk, misent sur les opportunités offertes par l’IA, tandis que d’autres, à l’image de Geoffrey Hinton, alertent sur ses dangers. Cette division reflète une tension plus large entre progrès technologique et éthique. Les entreprises de la tech, souvent en compétition acharnée, peinent à s’accorder sur des régulations communes. Timothy Garton Ash souligne que cette rivalité, couplée à la pression des marchés, rend improbable une action collective pour ralentir le développement de l’IA. Les experts craignent que, sans cadre international strict, l’humanité ne parvienne pas à maîtriser cette technologie avant qu’il ne soit trop tard.