«C’est comme si l’IA avait tiré le tapis sous les pieds des mathématiciens»

L’intelligence artificielle (IA) vient de résoudre plus de 370 problèmes mathématiques complexes, dont certains résistait aux efforts des mathématiciens depuis plus d’un siècle. Ces résultats, dévoilés par OpenAI, couvrent des domaines variés comme l’algèbre, la théorie des nombres ou la topologie. Les démonstrations, générées par un modèle interne d’IA inaccessible au public, ont été vérifiées par des ordinateurs utilisant le langage de programmation Lean, qui formalise la logique mathématique. Cependant, ces solutions restent souvent incompréhensibles pour les humains, car elles complexifient inutilement des étapes simples ou omettent des démonstrations essentielles. Le mathématicien Luc Vinet, professeur à l’Université de Montréal, compare cette situation à un « tapis tiré sous les pieds des mathématiciens », soulignant que la recherche en mathématiques ne sera plus jamais la même.

Début septembre, OpenAI avait annoncé la résolution du problème de Navier-Stokes, une énigme majeure en dynamique des fluides classée parmi les « problèmes du millénaire ». Cette résolution, obtenue en quelques jours par 10 000 agents d’OpenAI exploitant une puissance de calcul valant plusieurs millions de dollars, a suscité une vive controverse. Un mathématicien travaillant sur ce problème avait évoqué la possibilité d’un espionnage par l’IA. Par ailleurs, 25 lauréats de la médaille Fields, équivalent du « Nobel » en mathématiques, ont signé une lettre critiquant l’usage de l’IA, estimant que la production massive de résultats à un rythme effréné risquait de « détruire un terrain fertile » au lieu de favoriser l’émergence de nouvelles idées. Pour ces experts, l’objectif des mathématiques ne se limite pas à résoudre des problèmes, mais vise avant tout la compréhension profonde des solutions.

Bien que les démonstrations produites par l’IA soient rédigées sous forme d’équations conventionnelles, la plupart restent inintelligibles pour les mathématiciens. Ces solutions, souvent excessivement complexes, escamotent des étapes essentielles ou multiplient les détails superflus, rendant leur compréhension impossible sans une analyse approfondie. Cette situation rappelle la métaphore d’un hélicoptère atterrissant au sommet d’une montagne plongée dans le brouillard : l’IA permet d’atteindre des résultats, mais sans offrir de visibilité sur la manière d’y parvenir. Certains craignent que les mathématiciens ne se limitent bientôt à vérifier des preuves générées par des machines, perdant ainsi tout intérêt pour leur discipline. D’autres, comme Luc Vinet, y voient au contraire une opportunité de renouveau, l’IA pouvant proposer des idées que les spécialistes n’auraient pas imaginées.

Pour les géants de l’IA comme OpenAI ou Anthropic, les défis mathématiques servent principalement à évaluer les capacités de leurs modèles les plus avancés. Cependant, cette approche menace l’édifice mathématique construit par des générations de chercheurs, que l’on croyait jusqu’alors réservé à l’intellect humain. Luc Vinet, qui utilise l’IA dans ses recherches, se dit optimiste et voit dans cette technologie un outil pour « une renaissance des mathématiques ». Il souligne que l’IA favorise l’éclectisme en proposant des pistes que les hyperspécialistes n’auraient pas explorées. Toutefois, il insiste sur la nécessité de comprendre pleinement toute démonstration avant de la publier, rappelant que les mathématiques restent un humanisme où la transmission de la compréhension est essentielle. Vinet a lui-même utilisé l’IA pour résoudre une étape d’un problème qu’il tentait de résoudre depuis plus de 20 ans, mais il doit désormais travailler à « humaniser » ce résultat avant de le publier.

Face à l’essor de l’IA en mathématiques, une partie de la communauté scientifique exprime des réserves, voire une opposition frontale. Marcel Goh, doctorant en mathématiques à l’Université McGill, refuse d’utiliser l’IA dans ses recherches, qu’il compare à une « béquille » nuisible à l’apprentissage. Il observe que certains étudiants consacrent jusqu’à six heures par jour à converser avec des outils comme ChatGPT, au détriment de leur plaisir et de leur progression. Goh est membre de l’Association for Human Mathematics, fondée récemment et regroupant déjà plus de 800 mathématiciens. Cette association a publié une déclaration critiquant les résultats d’OpenAI, les qualifiant de « démonstration de pouvoir » plutôt que de contribution scientifique. Elle exhorte les mathématiciens à cesser leur collaboration avec OpenAI et à privilégier une vision de la science centrée sur la compréhension humaine.