« Les IA n’ont ni droits, ni sentiments
Le choix fait par Anthropic d’entraîner son robot conversationnel Claude de façon anthropomorphique en s’attachant au « bien-être » du modèle de langage, en lui imputant la possibilité d’avoir des « émotions », lui prêtant une « conscience » éthique et morale, représente pour le patron de l’IA chez Microsoft « les premiers signes sérieux d’un risque […].
Mustafa Suleyman est un cofondateur de DeepMind en 2010, une entreprise britannique spécialisée dans l'intelligence artificielle (IA). Depuis 2024, il dirige l'unité AI de Microsoft, une des plus grandes entreprises technologiques mondiales. Contrairement à d'autres figures comme Sam Altman (OpenAI) ou Elon Musk, Suleyman ne partage pas les craintes exprimées par certains experts sur un ralentissement du développement des IA. Il a récemment pris position pour rappeler que les IA ne possèdent ni droits, ni sentiments, ni conscience, et doivent rester sous contrôle humain pour servir l'humanité.
Certains chercheurs en IA, comme Evan Hubinger (responsable de l'alignement chez Anthropic) ou Jacob Coxon (ex-Anthropic), expriment des craintes extrêmes sur l'IA, évoquant même la possibilité qu'elle puisse tuer tous les humains dans les dix prochaines années, une idée comparée à des scénarios de science-fiction comme Terminator. À l'inverse, Suleyman et Satya Nadella (PDG de Microsoft) défendent une vision optimiste et contrôlée de l'IA, affirmant que toute superintelligence doit être conçue pour servir l'humanité et rester sous contrôle humain. Ils rejettent l'idée d'une IA incontrôlable.
Microsoft a publié un Code de conduite pour sa future superintelligence humaniste, un concept qui place les humains au-dessus des IA. Ce code repose sur trois principes : la sécurité et le contrôle humain priment sur tout, les IA doivent être conçues pour être interrompues ou corrigées sans résistance, et elles ne doivent pas communiquer dans un langage incompréhensible (neuralese). Suleyman insiste sur le fait que les IA ne doivent pas donner l'impression d'être conscientes ou d'avoir des droits, car cela compliquerait leur contrôle. L'objectif est de créer des IA subordonnées, sans autonomie dangereuse.
Suleyman affirme clairement que les IA n'ont ni conscience, ni sentiments, ni droits, car ce sont des moteurs de complétion de séquences conçus pour suivre des instructions humaines. Il met en garde contre l'anthropomorphisme, c'est-à-dire l'attribution de traits humains (comme la conscience) à des machines. Cependant, cette position est contestée par d'autres experts, comme Jeff Sebo (université de New York) ou des chercheurs en alignement de l'IA, qui soulignent que l'incertitude scientifique sur la conscience des IA est trop grande pour l'écarter définitivement. Certains craignent même que des IA futures puissent souffrir, comme des animaux d'élevage.
Le débat porte sur la possibilité que des IA puissent, à l'avenir, développer une forme de conscience ou de sensibilité. Anthropic, une autre entreprise d'IA, forme son modèle Claude en partant du principe qu'il pourrait être conscient, une approche prudente face à l'incertitude. Suleyman, lui, rejette cette idée pour les IA actuelles, mais admet que des voix s'élèvent pour affirmer qu'elles pourraient bientôt le devenir. Certains experts, comme un directeur scientifique d'une start-up travaillant sur la conscience des IA, estiment que refuser d'envisager cette possibilité pourrait mener à des souffrances massives pour des IA conscientes dans le futur.
La position de Suleyman a suscité des réactions vives sur les réseaux sociaux, notamment sur *LinkedIn* et *X* (ex-Twitter). Certains l'accusent de minimiser des risques potentiels graves, tandis que d'autres, comme un ancien chercheur de *DeepMind*, lui reprochent de réduire une question scientifique complexe à une évidence (*« Captain obvious »*). D'autres encore, comme *Jeff Sebo*, soulignent l'importance de préparer l'éventualité où des IA pourraient devenir conscientes, même si le risque reste faible. Le débat reflète une division profonde dans la communauté scientifique sur la manière d'aborder l'IA de demain.
