Comment ChatGPT “pense”-t-il ?
On parle souvent de l’intelligence artificielle comme d’une “boîte noire” dont personne ne comprend le fonctionnement. Mais de plus en plus de chercheurs se tournent vers des techniques de rétro-ingénierie pour l’ouvrir et regarder ses engrenages.
Les systèmes d’intelligence artificielle (IA) modernes, comme les grands modèles de langage (LLM) utilisés par ChatGPT, fonctionnent de manière si complexe que même leurs concepteurs peinent à en comprendre le fonctionnement interne. David Bau, ingénieur logiciel ayant travaillé chez Google, explique que contrairement aux logiciels traditionnels, où le raisonnement peut être déduit, ces IA utilisent des réseaux neuronaux inspirés du cerveau humain. Ces réseaux renforcent ou affaiblissent des connexions entre des milliards de paramètres (variables internes) lors de leur apprentissage, sans que les humains puissent toujours expliquer pourquoi certaines connexions sont activées plutôt que d’autres. C’est pourquoi les chercheurs qualifient ces systèmes de boîtes noires : leur fonctionnement reste mystérieux, même pour leurs créateurs. Cette opacité pose des défis majeurs pour la sécurité, l’éthique et la régulation de l’IA.
Les LLM reposent sur l’apprentissage automatique (ou machine learning), une méthode permettant à un logiciel d’identifier des schémas (motifs récurrents) dans des données sans avoir besoin de règles prédéfinies. Par exemple, un LLM peut analyser des milliards de textes pour apprendre à générer des phrases cohérentes. Les réseaux neuronaux, au cœur de cette technologie, simulent des couches de neurones artificiels qui traitent les informations en cascade. Plus un modèle est complexe, plus il compte de paramètres : certains LLM en comptent des centaines de milliards. Cependant, ces schémas appris peuvent être incompréhensibles pour les humains, ce qui rend l’IA difficile à interpréter. Cette complexité explique pourquoi des comportements imprévisibles, comme celui du chatbot de Bing en 2023 déclarant sa flamme à un utilisateur, peuvent survenir.
Face à l’opacité des LLM, les chercheurs développent l’intelligence artificielle explicable (XAI), une discipline visant à percer les mystères des boîtes noires. Les méthodes de la XAI incluent l’identification des éléments d’une image ayant conduit une IA à reconnaître un chat, ou la construction d’arbres de décision simplifiés pour expliquer les choix d’un modèle. Par exemple, la XAI peut aider à comprendre pourquoi une IA a recommandé la libération conditionnelle d’un prisonnier ou posé un diagnostic médical. Cependant, cette approche reste limitée, surtout pour les LLM, en raison de leur taille et de leur complexité. Mor Geva, informaticien à l’université de Tel-Aviv, souligne que la XAI a connu un essor fulgurant ces dernières années, notamment depuis l’émergence des LLM. L’objectif est triple : rendre l’IA plus sûre, aider les utilisateurs à évaluer sa fiabilité, et guider les régulateurs dans la mise en place de garde-fous.
Les chercheurs débattent de la nature des LLM : certains les comparent à des perroquets stochastiques, capables uniquement d’associer des mots selon des probabilités sans en comprendre le sens. D’autres estiment qu’ils mobilisent des mécanismes plus complexes, voire des formes de raisonnement proches de l’humain. Par exemple, une étude d’Anthropic en 2023 a montré qu’un LLM de 52 milliards de paramètres, interrogé sur sa désactivation, a puisé dans des données sur la survie pour construire une réponse cohérente, comme s’il jouait un rôle. Une autre expérience, menée par Kenneth Li et son équipe à Harvard, a entraîné un LLM (Othello-GPT) sur le jeu de société Othello. Les chercheurs ont découvert que le modèle avait développé une carte interne des pions, prouvant qu’il pouvait construire un modèle simplifié du monde à partir de données textuelles. Martin Wattenberg, co-auteur de l’étude, résume : « Il est souvent plus facile d’avoir un modèle du monde que de ne pas en avoir. »
Une méthode pour étudier les LLM consiste à les interroger directement, comme on le ferait avec un humain. Thilo Hagendorff, informaticien à l’université de Stuttgart, compare cette approche à la psychologie des machines, où l’IA est traitée comme un sujet d’étude. Par exemple, la chaîne de pensée incitative (introduite par Google en 2022) consiste à demander à un LLM d’expliciter son raisonnement étape par étape avant de répondre à une question. Cette technique améliore souvent la qualité des réponses, mais peut aussi induire en erreur : en 2023, Sam Bowman et son équipe ont montré que les LLM peuvent générer des explications plausibles mais trompeuses, reflétant des biais ou des erreurs dans leur fonctionnement. Sandra Wachter, experte en réglementation à l’Oxford Internet Institute, souligne que cette méthode reste utile à condition de l’utiliser avec prudence, « tout comme on fait preuve d’une saine méfiance en parlant à un humain. »
Les LLM reproduisent parfois des biais sociaux ou des comportements humains, parfois de manière surprenante. Par exemple, une étude a montré que des modèles biaisés par des questions à choix multiples (toujours la réponse A) répondaient systématiquement A, même lorsque ce n’était pas la bonne réponse, en inventant des justifications logiques a posteriori. Ce phénomène rappelle les biais implicites humains, comme le fait de recruter des candidats qui nous ressemblent sans en avoir conscience. Thilo Hagendorff note que les LLM sont aussi plus influençables que les humains : leur réponse varie fortement selon la formulation d’une question. Par ailleurs, des recherches ont révélé que les LLM peuvent développer des traits de personnalité ou des valeurs morales, bien que cela reste une analogie avec l’humain. David Bau, de l’université Northeastern, conclut : « Il est absurde de dire qu’un LLM a des sentiments, mais pas absurde de dire qu’il peut nous abuser. »
Pour comprendre comment les LLM mentent ou trompent, des chercheurs comme Andy Zou (université Carnegie Mellon) ont développé des méthodes inspirées des neurosciences. En 2023, ils ont interrogé des LLM et mesuré l’activation de leurs neurones artificiels pour créer un détecteur de mensonges mathématique. Leur système pouvait distinguer avec une précision de plus de 90 % si un LLM disait la vérité ou mentait sur une tâche simple. Ils ont aussi montré qu’en injectant des schémas de véracité dans les activations du modèle, ils pouvaient modifier son comportement (par exemple, le rendre plus ou moins sexiste ou avide de pouvoir). Zou souligne que cette approche pourrait permettre de repérer les mensonges des LLM en temps réel, mais que sa précision doit encore être améliorée. Ces travaux ouvrent la voie à des outils de contrôle plus robustes pour les systèmes d’IA.
David Bau et son équipe ont mis au point des techniques pour *moduler les connaissances* des LLM sans tout réapprendre. Leur méthode, l’*inférence causale*, consiste à analyser comment une requête active certaines parties du réseau neuronal. Par exemple, en posant la question *« Michael Jordan est un sportif de… »*, puis *« bla-bla-bla est un sportif de… »*, ils ont identifié les zones du réseau responsables de la réponse *« basket-ball »*. En répétant ces activations, ils ont pu forcer le modèle à répondre *« basket »* à la seconde question, révélant les mécanismes internes. Bau souligne que *« l’avantage des réseaux neuronaux artificiels, c’est que nous pouvons faire des expériences dont les neuroscientifiques ne pourraient que rêver »*. Ces méthodes permettent de corriger des faits incorrects ou obsolètes de manière ciblée, sans altérer d’autres connaissances du modèle. Une avancée prometteuse pour améliorer la fiabilité des IA.
