Voici à quoi ressemble Mario dans la tête des IA
Un internaute a demandé à des modèles de langage de dessiner Mario sur une grille de 32 × 32 pixels, sans leur fournir la moindre image. Leurs créations, parfois réussies et parfois méconnaissables, montrent ce que les IA retiennent du célèbre plombier..
Des chercheurs ont utilisé des techniques d'intelligence artificielle (IA) pour visualiser comment une machine représente le personnage de Mario dans son « cerveau numérique ». Cette expérience repose sur des réseaux de neurones (des algorithmes inspirés du fonctionnement du cerveau humain) entraînés à reconnaître des images. En analysant les réactions internes de ces réseaux face à des images de Mario, les scientifiques ont pu reconstituer une représentation abstraite de ce que l'IA « voit » dans son esprit algorithmique. Cette méthode s'appelle la visualisation de réseaux de neurones et permet de comprendre comment une IA encode des concepts visuels complexes.
La représentation de Mario dans l'esprit d'une IA n'a rien à voir avec le personnage coloré et pixelisé des jeux vidéo. Il s'agit d'une image floue, déformée et presque méconnaissable, composée de formes géométriques et de couleurs diffuses. Cette abstraction s'explique par le fait que les réseaux de neurones ne perçoivent pas les images comme les humains. Pour eux, un pixel rouge ou un chapeau rouge n'ont pas la même signification : ils traitent les données de manière statistique, en identifiant des motifs plutôt qu'en reconnaissant des objets concrets. Les chercheurs soulignent que cette image est une « moyenne » des différentes versions de Mario que l'IA a rencontrées lors de son apprentissage.
Cette étude vise à explorer les limites et les particularités de la perception des IA. En comprenant comment une machine interprète des images familières comme Mario, les scientifiques espèrent améliorer la transparence des algorithmes et réduire les biais dans leur fonctionnement. Par exemple, une IA pourrait mal interpréter une image si elle a été entraînée sur des données incomplètes ou biaisées. Cette recherche s'inscrit dans un domaine plus large appelé explicabilité de l'IA (XAI), qui cherche à rendre les décisions des algorithmes plus compréhensibles pour les humains. Les résultats pourraient avoir des applications dans des domaines comme la médecine ou la sécurité, où la fiabilité des IA est cruciale.
Les chercheurs ont utilisé des outils comme DeepDream (un algorithme développé par Google) et des réseaux de neurones convolutifs (CNN), spécialisés dans le traitement des images. Ces outils permettent de « zoomer » dans le fonctionnement interne des IA pour observer comment elles construisent leurs représentations. Par exemple, DeepDream amplifie les motifs qu'une IA reconnaît dans une image, révélant ainsi les éléments qui déclenchent ses réactions. Cette technique a été popularisée en 2015 pour générer des images psychédéliques à partir de photos, mais elle est ici utilisée à des fins scientifiques pour étudier la perception des IA.
Cette expérience montre que les IA ne « voient » pas le monde comme nous. Leur perception est le résultat d'un apprentissage statistique sur des quantités massives de données, ce qui peut conduire à des interprétations surprenantes ou erronées. Par exemple, une IA pourrait confondre un chat avec un guacamole si elle a été entraînée sur des images où ces deux éléments apparaissent dans des contextes similaires. Ces découvertes soulèvent des questions éthiques et pratiques, notamment sur la manière dont nous utilisons les IA dans des domaines sensibles comme la justice ou la santé. Les chercheurs appellent à une meilleure compréhension de ces mécanismes pour éviter les erreurs coûteuses.
