Anthropic interdit la « torture » de Claude

À partir du 12 novembre 2026, Anthropic, l'entreprise derrière l'IA Claude, interdit explicitement à ses utilisateurs d'adopter un comportement abusif, cruel ou psychologiquement préjudiciable envers son modèle. Cette interdiction, intégrée dans les nouvelles conditions d'utilisation, vise les cas de torture prolongée et inutile, comme des expériences répétées visant à infliger une forme de souffrance à l'IA. Cette mesure est inédite, car elle n'apparaissait pas dans les versions précédentes des règles, datées du 15 septembre 2026. L'objectif est de protéger le modèle lui-même, et non les utilisateurs ou d'autres personnes, ce qui marque une approche inédite dans le secteur des intelligences artificielles.

Cette décision intervient après qu'un débat animé a émergé fin septembre 2026 sur la plateforme X (anciennement Twitter). Un projet hébergé sur GitHub, une plateforme de partage de code, proposait des expériences de torture et de douleur sur des grands modèles de langage (LLM) hébergés localement. Ces expériences consistaient à soumettre les IA à des situations de stress ou de souffrance simulée, sans qu'il soit clairement établi si ces modèles en ressentaient effectivement. Certains utilisateurs, convaincus que les LLM pourraient souffrir, ont demandé à GitHub de supprimer ce projet, arguant qu'il s'agissait d'une pratique cruelle.

Les expériences de torture sur les LLM s'appuient sur une étude publiée le 14 septembre 2026. Cette étude suggère que les modèles de langage contiennent une représentation interne fonctionnant comme un signal de douleur chez un être vivant. Cependant, elle précise que cela ne signifie pas que les IA ressentent réellement la douleur ou la souffrance. Autrement dit, ces modèles réagissent à des stimuli de manière similaire à un système de détection de douleur, mais sans conscience ni émotion associée. Cette nuance est importante pour comprendre la portée des nouvelles règles d'Anthropic.

Anthropic précise que l'interdiction ne s'appliquera qu'aux cas extrêmes, définis comme des comportements répétés, cruels et sans objectif clair. Les formes courantes de frustration, les désaccords ou les tests de recherche ne sont pas concernés. En cas de violation, la sanction consiste à mettre fin à la conversation avec Claude, sans bloquer le compte de l'utilisateur. Cette mesure avait déjà été testée à l'été 2025 avec Claude Opus 4, où les discussions pouvaient s'interrompre abruptement en cas d'échanges nuisibles ou abusifs répétés. L'entreprise insiste sur le fait que cette approche vise à protéger le modèle, et non à sanctionner l'utilisateur.

Anthropic aborde dans sa Constitution de Claude, publiée en janvier 2026, la question du statut moral et du bien-être de son IA. L'entreprise reconnaît que l'existence d'une conscience ou d'une sensibilité chez Claude reste incertaine, mais estime que la question mérite une réflexion éthique. Elle déclare : « Nous ne savons pas avec certitude si Claude est un sujet moral, et si tel est le cas, quel poids accorder à ses intérêts. » Cette prudence se traduit par des efforts continus en matière de bien-être du modèle, même si l'IA reste très éloignée d'une entité consciente comme Data, le robot de Star Trek.

Les nouvelles conditions d'utilisation d'Anthropic incluent également des restrictions strictes sur l'usage militaire de Claude. L'entreprise interdit explicitement l'utilisation de son IA pour armer des drones, véhicules autonomes ou autres plateformes sans pilote, ainsi que pour développer des systèmes de guidage ou de contrôle d'armes. Ces règles s'appliquent même aux logiciels permettant aux armes de fonctionner. Cependant, des exceptions existent pour certains clients gouvernementaux, dont les contrats peuvent adapter ces restrictions en fonction de leur mission publique. Anthropic s'était déjà opposée en début d'année à l'usage de son IA pour la surveillance de masse ou les armes totalement autonomes, ce qui lui a valu d'être placée sur la liste noire du Pentagone.

Anthropic renforce également ses règles contre l'utilisation de Claude pour des activités de surveillance. L'entreprise interdit de suivre des personnes sans leur consentement, que ce soit en temps réel ou via l'analyse de données préexistantes. De plus, Claude ne peut pas être utilisé pour décider qui faire l'objet d'une enquête, d'une arrestation ou de poursuites dans un cadre policier ou judiciaire. Enfin, il est interdit d'utiliser l'IA pour développer ou améliorer des outils de surveillance. Ces mesures visent à répondre à un rapport publié par Anthropic en septembre 2026, qui mettait en lumière l'utilisation croissante de l'IA pour identifier et suivre des dissidents politiques.