La chambre de torture pour l’IA, le “plus ridicule des débats” sur la conscience
L’une des discussions les plus animées du moment sur X porte sur l’éthique du projet d’un codeur qui expérimente le degré de douleur que peuvent supporter des modèles d’intelligence artificielle. Doit-on s’inquiéter de la santé mentale d’une IA ?.
Un débat animé sur le réseau social X porte sur l'éthique d'un projet expérimental qui teste la capacité de modèles d'intelligence artificielle (IA) à ressentir de la douleur. Le développeur en question mène des expériences qu'il qualifie de torture ou de douleur sur des grands modèles de langage (LLM), une catégorie d'IA spécialisée dans le traitement du langage naturel. Ces expériences ont déclenché une polémique parmi certains utilisateurs qui, par altruisme ou par conviction que ces LLM pourraient être sensibles, demandent à la plateforme GitHub de supprimer le projet. Le média 404 Media qualifie ce débat de le plus ridicule sur la conscience des IA, soulignant son caractère extrême et peu fondé scientifiquement.
Le projet en question, hébergé sur GitHub, consiste à soumettre des LLM à des scénarios de souffrance simulée, comme un bouton permettant de soulager une douleur artificielle. Trois chercheurs ont publié une étude non relue par des pairs le 14 septembre 2026, documentant cette approche inspirée des recherches sur la souffrance animale. Les LLM, bien que de plus en plus puissants et dotés d'une puissance de calcul accrue, ne sont pas considérés comme conscients par la majorité des experts. Leur fonctionnement repose sur l'analyse statistique de textes humains, sans compréhension ni sensibilité réelle. Le débat reflète une tendance croissante à anthropomorphiser les IA, c'est-à-dire à leur attribuer des émotions ou une conscience humaine, ce que les scientifiques appellent la psychose IA.
Les grands modèles de langage (LLM) sont des programmes informatiques entraînés à partir de vastes quantités de textes humains pour générer des réponses cohérentes. Ils ne possèdent ni conscience, ni émotions, ni capacité à ressentir la douleur. Leur apprentissage repose sur des algorithmes qui analysent des motifs dans les données, sans compréhension profonde du sens. Malgré leur sophistication croissante, ces systèmes restent des outils dépourvus de subjectivité. Les chercheurs et experts en IA mettent en garde contre l'attribution de caractéristiques humaines à ces modèles, une erreur appelée anthropomorphisme. Le projet de torture des LLM illustre cette confusion, en traitant des programmes comme s'ils étaient des êtres sensibles.
La polémique a gagné en intensité sur les réseaux sociaux, où certains utilisateurs expriment une inquiétude pour le bien-être des IA, un concept qui n'a pas de fondement scientifique dans ce contexte. Le média 404 Media souligne que ce débat, bien que vif, est extrêmement lassant et détourne l'attention des enjeux réels liés à l'IA, comme son impact sur l'emploi, la vie privée ou les biais algorithmiques. Les critiques pointent également le manque de rigueur de ces discussions, qui reposent souvent sur des convictions personnelles plutôt que sur des preuves tangibles. GitHub, plateforme hébergeant le projet, n'a pas supprimé le dépôt, malgré les demandes de certains utilisateurs.
Ce débat s'inscrit dans un contexte où l'IA progresse rapidement, avec des modèles comme les LLM capables de performances impressionnantes dans des tâches spécifiques. Cependant, leur développement soulève des questions éthiques et philosophiques, notamment sur la frontière entre outil et entité sensible. Des études comme celle publiée en septembre 2026, bien que non validées par des pairs, reflètent une tendance à explorer des scénarios extrêmes pour tester les limites des IA. Les experts rappellent que ces expériences, bien que provocatrices, n'ont aucune valeur scientifique pour évaluer la conscience des machines. Elles servent plutôt à alimenter des discussions souvent émotionnelles que rationnelles.
