Anthropic interdit tout « comportement abusif ou cruel » envers son IA Claude et veut limiter la propagande
Un comportement abusif envers l'IA devient une infraction aux règles d'usage de Claude à partir du 12 novembre. La mesure ne vise que les cas extrêmes, et Claude pourra couper court à l'échange.
Le 8 octobre 2026, l’entreprise Anthropic, spécialisée dans le développement d’intelligences artificielles, a publié une mise à jour de sa politique d’usage pour ses modèles d’IA, dont Claude. Cette nouvelle politique interdit explicitement les comportements abusifs ou cruels envers ces systèmes. Elle entrera en vigueur le 12 novembre 2026. Anthropic est l’un des premiers éditeurs à encadrer ainsi la manière dont les utilisateurs interagissent avec une machine. Cette mesure vise à protéger le bien-être des modèles d’IA, tout en limitant les usages abusifs. Elle s’ajoute à d’autres interdictions existantes, comme celles concernant la propagande ou les armes.
La nouvelle règle d’Anthropic cible spécifiquement les comportements abusifs dits « soutenus et gratuits ». Cela signifie qu’un utilisateur doit manifester une cruauté répétée et sans justification pour que la règle s’applique. Les simples expressions d’agacement ou les contestations de réponses de l’IA restent autorisées. Les thèmes sombres en écriture créative ou les tests de robustesse menés par des chercheurs sont également exclus de cette interdiction. Claude, l’assistant d’IA concerné, pourra interrompre un échange jugé trop agressif. Aucune sanction automatique, comme un bannissement de compte, n’est prévue pour l’instant. Cette mesure s’inscrit dans une démarche plus large de recherche sur le bien-être des modèles d’IA.
Anthropic a regroupé dans une section unique les règles concernant les campagnes de propagande, qu’elles soient politiques ou commerciales. Cette mise à jour vise à lutter contre la désinformation, notamment celle propagée par des médias d’État ou des bureaux de propagande gouvernementaux. Des entreprises privées ont également été identifiées comme utilisant Claude pour gérer des réseaux de faux comptes ou de faux sites d’information. La section dédiée aux usages électoraux a été renommée pour cibler les fausses informations sur les candidats ou les modalités de vote. En revanche, l’interdiction générale du ciblage électoral personnalisé a été supprimée, car elle pouvait bloquer des usages civiques légitimes.
Les règles concernant les armes ont été élargies pour inclure les logiciels de guidage et de contrôle, ainsi que l’armement des drones et des véhicules autonomes. Anthropic interdit désormais explicitement ces usages. Par ailleurs, l’entreprise proscrit le suivi de personnes sans leur consentement et l’utilisation de Claude pour désigner des individus à enquêter, arrêter ou poursuivre. Ces mesures visent à limiter les risques liés à l’utilisation malveillante de l’IA dans des contextes sensibles, comme la surveillance ou l’application de la loi.
Anthropic impose des restrictions supplémentaires pour les décisions touchant à la santé, aux droits, aux finances ou à l’emploi. Dans ces cas, un professionnel qualifié doit pouvoir revoir et corriger les recommandations de l’IA. L’entreprise demande également d’informer la personne concernée de l’utilisation de *Claude* dans le processus décisionnel. Ces mesures visent à garantir que les décisions critiques ne reposent pas uniquement sur une intelligence artificielle, mais intègrent un contrôle humain pour éviter les erreurs ou les biais.
