Anthropic dit avoir stoppé des opérations de surveillance en Chine et dans d’autres pays
Les opérations de surveillance visaient des dissidents et des minorités ethniques..
L'entreprise américaine Anthropic, spécialisée dans l'intelligence artificielle (IA), a annoncé avoir interrompu plusieurs opérations de surveillance menées à l'aide de son assistant d'IA nommé Claude. Ces activités illégitimes ont été détectées et neutralisées entre janvier et juillet 2026. Les cibles de ces surveillances étaient principalement des dissidents politiques et des minorités ethniques, notamment en Chine, en Iran et en Afrique de l'Ouest. Anthropic précise que ces régimes ciblent habituellement ces mêmes groupes, comme les militants prodémocratie à Hong Kong, les communautés tibétaines, les pratiquants du Falun Gong en Asie, ainsi que les opposants iraniens et les minorités ethniques en Afrique de l'Ouest. L'entreprise a souligné que ces pratiques violaient ses règles d'utilisation et ses principes éthiques.
Parmi les méthodes de surveillance identifiées, des acteurs iraniens ont utilisé Claude pour identifier des personnes à partir de leurs comptes sur les réseaux sociaux. Dans un autre cas, un prestataire travaillant pour les autorités de sécurité nationale du Mali a exploité l'IA pour concevoir un logiciel de collecte de renseignements. Anthropic a également déjoué des tentatives d'utiliser son outil pour concevoir des armes, mener des recherches biologiques controversées ou créer de fausses applications de rencontre destinées à escroquer les utilisateurs. Ces détournements illustrent les risques liés à l'utilisation détournée des technologies d'IA, qui peuvent être détournées pour des activités malveillantes ou illégales.
Anthropic a accusé deux entreprises chinoises, Moonshot et DeepSeek, d'avoir utilisé Claude en secret pour répondre aux questions de leurs clients tout en récupérant les résultats afin d'améliorer leurs propres modèles d'IA. Cette pratique, appelée distillation, consiste à exploiter les réponses d'un modèle d'IA tiers sans autorisation pour entraîner un autre modèle. Moonshot aurait relayé près de 300 000 requêtes de clients à Anthropic via un réseau de 5 380 comptes frauduleux, principalement situés à Singapour et au Japon, sur une période de dix jours. Une partie de ces données contenait des informations sensibles sur les utilisateurs, ce qui pourrait constituer une violation des règles de confidentialité.
Anthropic a également bloqué des recherches biologiques menées à l'aide de Claude, sans pour autant identifier clairement les auteurs de ces études. Les travaux concernaient des virus dangereux, comme le chikungunya (transmis par les moustiques), une souche hautement pathogène de la grippe aviaire, des virus de la famille de la variole et du mpox, ainsi que des venins et toxines. L'entreprise a précisé que les personnes impliquées dans ces études étaient des scientifiques en activité, mais qu'elle ne pouvait confirmer leurs intentions. Elle a également souligné que révéler leur identité pourrait les mettre en danger, tout en insistant sur le fait que ces travaux ne visaient pas nécessairement à nuire.
Ces révélations soulèvent des questions sur la régulation des technologies d'IA et la protection des données personnelles. Anthropic a indiqué ne pas savoir si Moonshot avait informé ses clients que leurs requêtes étaient redirigées vers ses serveurs, exposant ainsi leurs données à un tiers. L'entreprise a également rappelé que les modèles d'IA comme *Claude* peuvent être détournés pour des usages malveillants, ce qui pose un défi majeur pour les développeurs et les régulateurs. Ces incidents mettent en lumière la nécessité de renforcer les mécanismes de contrôle et de transparence dans l'utilisation des outils d'IA, notamment pour éviter les abus et protéger les droits fondamentaux des utilisateurs.
