Comment ChatGPT “pense”-t-il ?

On parle souvent de l’intelligence artificielle comme d’une “boîte noire” dont personne ne comprend le fonctionnement. Mais de plus en plus de chercheurs se tournent vers des techniques de rétro-ingénierie pour l’ouvrir et regarder ses engrenages. Ils s’inspirent aussi des neurosciences pour scanne…

Résumé

Les IA, des boîtes noires

Les systèmes d’intelligence artificielle (IA) modernes, comme les grands modèles de langage (LLM) utilisés par ChatGPT, fonctionnent de manière si complexe que même leurs concepteurs peinent à en comprendre le fonctionnement interne.

David Bau, ingénieur logiciel ayant travaillé chez Google, explique que contrairement aux logiciels traditionnels, où le raisonnement peut être déduit, ces IA utilisent des réseaux neuronaux inspirés du cerveau humain.

Ces réseaux renforcent ou affaiblissent des connexions entre des milliards de paramètres (variables internes) lors de leur apprentissage, sans que les humains puissent toujours expliquer pourquoi certaines connexions sont activées plutôt que d’autres.

C’est pourquoi les chercheurs qualifient ces systèmes de boîtes noires : leur fonctionnement reste mystérieux, même pour leurs créateurs.

Cette opacité pose des défis majeurs pour la sécurité, l’éthique et la régulation de l’IA.