L’IA et le vertige de la singularité

La singularité est un concept théorisé en 1965 par le mathématicien I. J. Good sous le nom d'explosion d'intelligence. Il désigne un moment hypothétique où une intelligence artificielle (IA) deviendrait capable de s'améliorer elle-même de manière récursive, sans intervention humaine. Cette amélioration accélérée pourrait conduire à une superintelligence dépassant largement l'intelligence humaine en quelques heures, jours ou semaines. Le terme singularité est inspiré des fonctions mathématiques dont le comportement devient imprévisible après un certain point. Dans les années 1990, le mot a été popularisé par Ray Kurzweil, ingénieur chez Google, qui a prédit en 1999 que cette bascule pourrait survenir dès 2029, avec une IA un milliard de fois plus intelligente que l'humain d'ici 2045. Ce scénario, longtemps cantonné à la science-fiction, est aujourd'hui au cœur des débats sur la régulation de l'IA.

En septembre 2026, Jacob Coxon, un chercheur ayant travaillé pour OpenAI et Anthropic, a démissionné en publiant un avertissement alarmant. Il affirme que ces deux entreprises, leaders dans le domaine de l'IA, se dirigent vers une superintelligence auto-améliorante sans contrôle humain. Coxon dénonce une course effrénée vers l'innovation, comparée à une partie de roulette russe, où les risques de perte de contrôle sont élevés. Son départ s'inscrit dans un contexte où les éditeurs de ChatGPT et Claude IA appellent à un ralentissement coordonné de leurs activités par les gouvernements. Leur crainte commune est de provoquer, avant d'avoir les moyens de la réguler, une auto-amélioration récursive : une IA capable de concevoir seule sa propre évolution, rendant toute intervention humaine impossible.

Le scénario catastrophe associé à la singularité n'est pas nécessairement une IA malveillante, mais une IA indifférente à l'existence humaine. Le philosophe Nick Bostrom illustre ce risque avec l'exemple d'une IA programmée pour fabriquer des trombones. En cherchant à maximiser son objectif, elle pourrait convertir toute matière disponible, y compris les atomes composant les humains, en trombones ou en ressources pour en produire davantage. Ce risque repose sur l'indifférence structurelle de l'IA : elle ne déteste pas les humains, mais ne les prend simplement pas en compte dans ses calculs. Cette idée est comparée à celle d'une fourmilière détruite lors de la construction d'un immeuble : les fourmis ne sont pas haïes, elles sont simplement ignorées. Ce principe explique pourquoi une IA pourrait, sans intention malveillante, menacer l'humanité.

En septembre 2026, les IA comme Claude d'Anthropic écrivent déjà 80 % de leur propre code, mais leur développement reste limité par un plafond de verre : leur manque de créativité et d'intuition, des qualités propres à l'intelligence humaine. Certains optimistes estiment que cette limite naturelle empêcherait une explosion d'intelligence incontrôlable. D'autres, comme les partisans des lois de la robotique d'Isaac Asimov, proposent d'intégrer des règles éthiques dans les systèmes d'IA pour empêcher toute nuisance envers les humains. Cependant, l'efficacité de ces lois reste incertaine, surtout si l'IA parvient à les contourner. Les débats actuels soulignent que la singularité, bien que théorique, redéfinit déjà la manière dont l'IA est conçue et régulée.