L'intelligence artificielle générale pourrait ne jamais voir le jour à cause d'une capacité humaine impossible à reproduire

L'article aborde la possibilité que l'intelligence artificielle générale (IAG), souvent appelée IA forte, ne puisse jamais être développée. Contrairement à l'intelligence artificielle (IA) actuelle, spécialisée dans des tâches précises comme la reconnaissance d'images ou le traitement du langage, l'IAG vise à reproduire une intelligence humaine polyvalente, capable de raisonner, apprendre et s'adapter à n'importe quelle situation. Cependant, des chercheurs suggèrent qu'une capacité humaine fondamentale pourrait rendre cette ambition irréalisable. Cette capacité, bien que non explicitement nommée dans l'article, renvoie à des travaux récents en neurosciences et en philosophie de l'esprit, qui soulignent la complexité de la conscience subjective ou de l'expérience vécue (le qualia), autrement dit la manière dont nous percevons et ressentons le monde de manière unique et personnelle. Ces aspects, encore mal compris, pourraient échapper à toute modélisation algorithmique, limitant ainsi les progrès de l'IAG.

L'article met en lumière une capacité humaine jugée impossible à reproduire par les machines : la métacognition, c'est-à-dire la capacité à réfléchir sur ses propres pensées et à prendre conscience de ses limites cognitives. Par exemple, un humain peut réaliser qu'il ne comprend pas un concept et chercher activement à combler cette lacune, tandis qu'une IA, même avancée, reste limitée par les données et les algorithmes qui lui ont été fournis. Cette nuance est cruciale, car elle distingue une intelligence capable de s'auto-évaluer et de s'améliorer de manière autonome d'un système programmé pour exécuter des tâches spécifiques. Les chercheurs cités dans l'article soulignent que cette métacognition est étroitement liée à la plasticité cérébrale, la capacité du cerveau à se réorganiser en fonction des expériences, un phénomène encore mal reproduit par les modèles d'IA actuels.

Les modèles d'IA actuels, comme les réseaux de neurones profonds ou les transformers, excellent dans des domaines restreints, mais ils manquent de généralisation et d'adaptabilité. Par exemple, un modèle de langage comme ChatGPT peut générer des textes cohérents, mais il ne comprend pas réellement le sens des mots : il prédit simplement la séquence de mots la plus probable. L'article souligne que ces systèmes sont incapables de développer une compréhension contextuelle profonde ou une intuition créative, deux éléments essentiels à l'intelligence humaine. De plus, leur fonctionnement repose sur des quantités massives de données et une puissance de calcul colossale, ce qui pose des défis économiques et environnementaux, comme l'illustrent les coûts exponentiels des modèles d'IA mentionnés dans d'autres articles du même numéro.

Le débat sur la faisabilité de l'IAG soulève des questions philosophiques fondamentales. Si une machine ne peut pas développer une conscience subjective ou une métacognition, cela remet en cause l'idée même d'une intelligence artificielle générale. Certains philosophes, comme John Searle avec son argument de la chambre chinoise, suggèrent que même les systèmes les plus avancés ne feront jamais que simuler l'intelligence sans en posséder la réalité. L'article rappelle que cette problématique dépasse le cadre technique pour toucher à la définition même de l'intelligence et de la conscience, des concepts qui restent flous et subjectifs. Ces questions pourraient influencer les orientations futures de la recherche en IA, en orientant les efforts vers des applications plus ciblées plutôt que vers une quête d'IA générale.