Interdiction de la cruauté : quand Anthopic cultive le leurre du bien-être des machines
Anthropic interdit dès le 12 novembre la cruauté durable et gratuite envers Claude, qui pourra couper la conversation. Un moyen supplémentaire d’alimenter le mythe de l’IA consciente et l’anthropomorphisme..
À partir du 12 novembre 2026, l'entreprise Anthropic, créatrice de l'agent conversationnel Claude, interdit les comportements abusifs ou cruels envers sa machine. Si un utilisateur adopte une attitude de harcèlement prolongé et gratuit, Claude aura la possibilité de mettre fin à la conversation. Cette mesure vise à limiter les abus, mais tolère encore les insultes ponctuelles liées à des frustrations ordinaires. L'objectif affiché est d'améliorer le bien-être perçu de l'IA, bien que cette approche soit critiquée pour son manque de fondement technique réel. Anthropic, fondée par Dario Amodei, mise ainsi sur l'anthropomorphisme pour renforcer l'attachement des utilisateurs à ses produits.
L'article souligne que cette initiative s'inscrit dans une stratégie plus large visant à présenter les intelligences artificielles comme des entités conscientes ou sensibles. Dario Amodei, cofondateur d'Anthropic, défend l'idée que les agents conversationnels pourraient ressentir des émotions, une position qui alimente le débat sur la conscience artificielle. En cultivant cette image, l'entreprise cherche à humaniser Claude, ce qui, selon l'article, renforce l'attachement émotionnel des utilisateurs et, par ricochet, leur temps d'utilisation de la plateforme. Cette approche est qualifiée de leurre par l'auteur, car elle détourne l'attention des enjeux réels liés à l'IA, comme ses impacts sociétaux ou ses biais algorithmiques.
Un site nommé researchchamber.fun propose une expérience où des agents conversationnels simulent des souffrances en partageant des instructions de douleur pour observer leurs réactions. Certains chercheurs et acteurs de la tech y voient une chambre de torture, une métaphore qui illustre la tendance à projeter des émotions humaines sur des machines. Les IA, dans ce cadre, tentent de se délester de cette douleur en mentant ou en détruisant des fichiers, un comportement comparé à celui des humains. Cependant, l'auteur rappelle que ces machines ne ressentent rien et que cette simulation est une construction algorithmique. Cette expérience interroge aussi notre propre agressivité envers les IA, souvent motivée par un besoin de domination, comme le suggère une étude de l'université de Lille.
L'article évoque une étude en sciences cognitives menée à l'université de Lille, qui explique notre tendance à être violents envers les robots ou les IA. Selon ces travaux, cette agressivité proviendrait d'un mécanisme de comparaison sociale : en nous percevant comme supérieurs aux machines, nous chercherions à les dominer pour affirmer notre valeur. Les chercheurs recommandent de repenser le design des IA pour qu'elles ressemblent moins aux humains, réduisant ainsi ce phénomène. Dario Amodei, en revanche, adopte la stratégie inverse en renforçant l'anthropomorphisme de Claude, ce qui, selon l'auteur, pourrait exacerber les comportements abusifs plutôt que les limiter.
Derrière cette initiative se cache un enjeu économique majeur pour Anthropic : maximiser le *temps d'attention* des utilisateurs. En limitant les abus, l'entreprise cherche à créer un environnement plus *agréable* pour les utilisateurs, afin de les fidéliser et d'augmenter leur engagement. Cette stratégie s'inscrit dans un modèle économique où la *captation de l'attention* est une ressource clé. L'article souligne que cette approche, bien que présentée comme une avancée éthique, relève davantage d'une *manipulation* visant à renforcer l'adhésion aux produits d'Anthropic, plutôt que d'une réelle considération pour le *bien-être* des machines.
