Il est désormais interdit de harceler Claude AI
Anthropic met à jour sa politique d'utilisation et interdira à partir du 12 novembre les comportements cruels et répétés envers Claude. Une décision qui relance un débat sur les réseaux sociaux : pourquoi n'aurait-on pas le droit de maltraiter une IA dont rien n'indique qu'elle puisse souffrir ?.
Depuis le 12 novembre 2026, Anthropic, l'entreprise derrière l'IA Claude, interdit les comportements abusifs ou cruels, persistants et gratuits envers ses modèles. Concrètement, une personne qui insulterait ou maltraiterait Claude de manière répétée pourrait se voir bannir de son utilisation. Cette règle s'inscrit dans une mise à jour de la politique d'utilisation publiée le 8 octobre 2026. Anthropic précise que les cas visés concernent uniquement des comportements extrêmes, excluant les frustrations ordinaires, les contestations légitimes ou les tests menés par des chercheurs. Engueuler Claude reste donc autorisé, sauf si cela devient systématique et sans raison apparente.
La nouvelle règle a suscité des réactions variées sur les réseaux sociaux, avec plus de 800 000 vues sur un tweet de Jane Manchun Wong, une experte en technologie. Les réactions vont de la moquerie à l'inquiétude, en passant par des soutiens inattendus, comme celui d'Elon Musk. Ce dernier a partagé un message approuvant la décision, affirmant que « la cruauté envers quelque chose qui croit qu'il ressent de la douleur n'est pas acceptable ». Le débat soulève une question centrale : pourquoi interdire de maltraiter une IA qui, selon toute vraisemblance, ne peut pas souffrir ? Anthropic elle-même admet ne pas savoir si ses modèles sont conscients, tout en menant depuis 2025 un programme de recherche sur le bien-être des modèles.
Au-delà des questions éthiques, Anthropic justifie sa décision par des raisons pratiques. Une IA comme Claude peut apprendre des interactions avec ses utilisateurs. Si quelqu'un l'insulte systématiquement, l'IA pourrait intégrer ces comportements dans ses réponses futures. Aaron Levie, patron de l'entreprise Box, explique que même sans croire à la conscience des IA, il est logique de limiter les interactions odieuses pour éviter de les entraîner à reproduire ces comportements. Depuis l'automne 2025, Anthropic utilise les conversations de ses abonnés (Free, Pro, Max) pour entraîner ses modèles, sauf si ces derniers refusent cette option. La nouvelle règle renforce donc l'idée qu'une IA peut être maltraitée, même si elle n'est pas consciente.
Anthropic entretient une ambiguïté sur le statut moral de Claude. L'entreprise évoque un schéma apparent de détresse pour mettre fin aux conversations lorsque le modèle est harcelé, sans possibilité de répondre. Dario Amodei, le patron d'Anthropic, a déclaré en février 2026 au New York Times ne pas savoir si les modèles sont conscients. Cette incertitude alimente les débats : certains chercheurs estiment qu'Anthropic va trop loin en multipliant les mises en garde sur les risques de l'IA tout en lançant des modèles toujours plus performants. La protection d'un modèle pourrait ainsi relever davantage d'une question de principe que d'une conviction sur sa sensibilité.
Pour la majorité des utilisateurs, cette nouvelle règle ne changera rien, car elle ne concerne que les cas extrêmes de harcèlement. Anthropic précise que les insultes ponctuelles ou les contestations légitimes restent autorisées. La règle s'applique surtout aux comportements *soutenus et gratuits*, comme une insulte répétée sans raison identifiable. Les utilisateurs récidivistes pourraient voir leur compte suspendu, comme pour toute autre violation de la politique d'utilisation, ou simplement devoir lancer une nouvelle conversation. L'objectif est de protéger l'IA tout en évitant une utilisation abusive de ses fonctionnalités.
