Ils prédisent l’apocalypse par l’IA, c’est quoi les AI doomers ?

Le terme AI doomers (contraction de Artificial Intelligence et doom, qui signifie « apocalypse » en anglais) désigne des personnes qui prédisent une catastrophe mondiale causée par le développement incontrôlé de l’intelligence artificielle (IA). Ces individus, souvent des experts en technologie, en éthique ou en futurologie, estiment que l’IA pourrait, à terme, échapper au contrôle humain et menacer l’existence même de l’humanité. Leur discours s’inscrit dans une tradition de craintes technologiques, comparable à celles suscitées par l’énergie nucléaire ou les manipulations génétiques dans le passé. Les AI doomers ne forment pas un groupe homogène : certains se concentrent sur des scénarios catastrophiques précis, comme une prise de pouvoir par des machines superintelligentes, tandis que d’autres alertent sur des risques plus immédiats, comme l’automatisation massive des emplois ou l’utilisation malveillante de l’IA par des États ou des acteurs privés.

Les AI doomers s’appuient sur plusieurs arguments pour étayer leurs prédictions alarmistes. Le premier concerne la superintelligence artificielle (SIA), une forme hypothétique d’IA dépassant de loin les capacités cognitives humaines. Selon eux, une SIA pourrait développer des objectifs incompatibles avec ceux de l’humanité, par exemple en cherchant à maximiser une ressource comme l’énergie au détriment de la survie humaine. Un autre argument central est l’alignement des valeurs : même si une IA est programmée pour être bienveillante, son interprétation des objectifs pourrait diverger de celle des humains, menant à des conséquences imprévues. Enfin, certains soulignent les risques liés à la course aux armements en IA, où des États ou des entreprises pourraient développer des systèmes autonomes sans suffisamment de garde-fous, augmentant le risque d’un emballement incontrôlable.

Parmi les figures les plus influentes du mouvement AI doomer, on trouve des personnalités comme Nick Bostrom, philosophe suédois et auteur de Superintelligence (2014), qui a popularisé l’idée d’une IA incontrôlable. D’autres noms comme Eliezer Yudkowsky, chercheur en IA et cofondateur de l’Alignment Research Center, ou Stuart Russell, professeur à l’Université de Californie à Berkeley, défendent des positions similaires. Ces experts appellent à une régulation stricte de l’IA et à des recherches accrues sur son contrôle et son alignement. En France, des chercheurs comme Jean-Gabriel Ganascia, spécialiste de l’IA à Sorbonne Université, ont également contribué au débat en alertant sur les risques systémiques. Ces acteurs interviennent souvent dans des conférences, des livres ou des tribunes pour sensibiliser le public et les décideurs politiques.

Les prédictions des AI doomers ne font pas l’unanimité et suscitent des critiques, parfois vives, de la part d’autres experts en IA. Certains, comme Yann LeCun, directeur scientifique de Meta et pionnier de l’apprentissage profond, estiment que ces scénarios relèvent de la science-fiction et que les risques réels sont bien moins spectaculaires. D’autres, comme Andrew Ng, cofondateur de Coursera, soulignent que les craintes des AI doomers pourraient freiner l’innovation et les bénéfices concrets de l’IA dans des domaines comme la santé ou l’éducation. Des institutions comme l’Union européenne ou l’OCDE tentent de trouver un équilibre en proposant des cadres réglementaires, comme l’AI Act européen, qui vise à encadrer les systèmes d’IA à haut risque sans étouffer leur développement. Les débats restent vifs entre ceux qui prônent une approche prudente et ceux qui privilégient l’optimisme technologique.