« Il faudrait brûler une forêt pour qu’une IA apprenne autant de choses qu’un bébé » assure un chercheur de Stanford
Quelques millions de mots entendus suffisent à un tout-petit pour maîtriser sa langue maternelle. Une IA en absorbe des milliers de milliards pour un résultat comparable.
Les intelligences artificielles (IA) actuelles, comme les modèles de langage, nécessitent des quantités colossales de données pour apprendre. Un chercheur de l'université de Stanford, Fei-Fei Li, a comparé leur processus d'apprentissage à celui d'un bébé. Selon lui, pour qu'une IA atteigne un niveau de compréhension équivalent à celui d'un enfant de deux ans, il faudrait lui fournir une quantité d'informations comparable à celle contenue dans une forêt entière brûlée. Cette comparaison illustre l'écart entre l'efficacité de l'apprentissage humain, qui assimile des connaissances à partir d'expériences limitées et interactives, et celui des IA, qui dépendent de données massives et structurées pour progresser.
L'apprentissage des IA repose sur des algorithmes complexes et des réseaux de neurones artificiels, qui consomment énormément de ressources. Pour entraîner un modèle comme ceux utilisés aujourd'hui, des centres de données entiers fonctionnent en continu, avec une consommation électrique équivalente à celle de petites villes. Le chercheur de Stanford souligne que cette approche est non seulement inefficace sur le plan énergétique, mais aussi coûteuse en termes environnementaux. Par exemple, entraîner un grand modèle de langage peut émettre autant de CO₂ que plusieurs vols transatlantiques.
Contrairement à un bébé, qui apprend en observant et en interagissant avec son environnement, les IA doivent être nourries avec des datasets (ensembles de données) souvent peu pertinents ou redondants. Fei-Fei Li explique que la plupart des données utilisées pour entraîner les IA sont issues du web, où les informations sont mal organisées, biaisées ou incomplètes. Par exemple, une image sur Internet peut être étiquetée de manière incorrecte, ce qui fausse l'apprentissage de l'IA. Ainsi, une grande partie des données fournies est gaspillée, d'où la nécessité d'en utiliser toujours plus pour compenser ces lacunes.
Malgré les progrès récents, les IA restent limitées dans leur capacité à généraliser leurs connaissances. Un bébé de deux ans comprend intuitivement des concepts comme la gravité, la causalité ou les émotions, alors qu'une IA doit tout apprendre de manière explicite à travers des données. Le chercheur de Stanford souligne que cette différence s'explique par la manière dont les humains et les machines traitent l'information. Les humains utilisent des heuristiques (raccourcis mentaux) et des biais cognitifs pour apprendre rapidement, tandis que les IA dépendent de calculs statistiques massifs, sans compréhension profonde.
Pour réduire cet écart, des chercheurs explorent des méthodes alternatives pour entraîner les IA. L'une d'elles consiste à s'inspirer davantage du cerveau humain, en développant des *neurosciences computationnelles* qui reproduisent certains mécanismes biologiques. Une autre piste est d'utiliser des *données plus structurées* et pertinentes, comme des vidéos ou des interactions en temps réel, plutôt que des textes ou des images statiques. Cependant, ces approches restent expérimentales et nécessitent des avancées technologiques majeures pour être viables à grande échelle.

