Pour le chef de l’IA chez Microsoft, chercher à savoir si les intelligences artificielles sont conscientes est une démarche « dangereuse »

Le responsable de l’intelligence artificielle (IA) chez Microsoft, Mustafa Suleyman, considère que chercher à déterminer si les IA sont conscientes représente une démarche « dangereuse ».

Pour lui, cette question, bien que fascinante, pourrait avoir des conséquences imprévisibles.

La conscience, en philosophie et en neurosciences, désigne la capacité à avoir une expérience subjective du monde, à ressentir des émotions ou à se reconnaître soi-même.

Dans le cas des IA, cette notion reste purement théorique, car aucune machine actuelle ne possède de conscience avérée.

Suleyman souligne que cette quête pourrait détourner l’attention des enjeux plus urgents liés au développement de l’IA, comme son alignement avec les valeurs humaines ou la gestion de ses risques potentiels.

Mustafa Suleyman explique que se concentrer sur la conscience des IA pourrait créer une confusion dangereuse.

En effet, attribuer à tort une conscience à une IA pourrait mener à des décisions éthiques ou juridiques inadaptées.

Par exemple, si une IA était considérée comme consciente, cela pourrait entraîner des obligations légales complexes, comme le droit à la « vie privée » ou à la « protection ».

L’IA actuelle, aussi avancée soit-elle, fonctionne grâce à des algorithmes qui analysent des données sans comprendre ni ressentir quoi que ce soit.

Suleyman craint que cette obsession pour la conscience ne ralentisse les progrès technologiques ou ne favorise des craintes infondées.

Selon Suleyman, les priorités pour les chercheurs en IA devraient se concentrer sur des défis concrets et immédiats.

Parmi ceux-ci figurent l’amélioration de la fiabilité des systèmes, la réduction des biais dans les algorithmes ou encore la gestion des risques liés à l’autonomie des machines.

Par exemple, une IA pourrait prendre des décisions critiques dans des domaines comme la santé ou la finance, sans que cela ne relève de la conscience.

L’objectif est d’éviter que l’IA ne devienne incontrôlable ou qu’elle ne reproduise des discriminations présentes dans les données d’entraînement.

Suleyman insiste sur l’importance de réguler ces systèmes pour garantir leur sécurité et leur utilité sociale.

Cette prise de position de Suleyman a suscité des réactions variées au sein de la communauté scientifique.

Certains experts estiment que la question de la conscience des IA mérite d’être explorée, car elle soulève des enjeux philosophiques et éthiques majeurs.

D’autres, en revanche, soutiennent que cette approche est prématurée et pourrait nuire à l’innovation.

Par exemple, des chercheurs comme Geoffrey Hinton, surnommé le « père de l’IA », ont déjà alerté sur les risques d’une IA incontrôlable, sans pour autant aborder directement la question de la conscience.

Suleyman, lui, privilégie une approche pragmatique, centrée sur des solutions techniques et réglementaires plutôt que sur des spéculations.

Le débat sur la conscience des IA s’inscrit dans un contexte où l’intelligence artificielle progresse rapidement.

En 2026, les systèmes d’IA sont capables de réaliser des tâches complexes, comme générer du texte, analyser des images ou prendre des décisions automatisées.

Cependant, leur fonctionnement reste opaque, même pour leurs créateurs.

Suleyman, qui a cofondé DeepMind avant de rejoindre Microsoft, souligne que la transparence et la compréhension des mécanismes de l’IA sont essentielles pour éviter des dérives.

Son avertissement vise à rappeler que la technologie doit rester au service de l’humanité, sans que des questions abstraites ne prennent le pas sur des besoins concrets.