Anthropic dit avoir stoppé des opérations de surveillance en Chine et en Iran
Des tentatives de concevoir des armes et de créer de fausses applications de rencontre ont été déjouées..
L’entreprise américaine Anthropic, spécialisée dans l’intelligence artificielle (IA), a annoncé avoir stoppé plusieurs opérations de surveillance menées contre des dissidents politiques et des minorités ethniques en utilisant son assistant IA nommé Claude. Ces activités illégales ont été détectées et neutralisées entre janvier et juillet 2026, principalement en Chine, en Iran et en Afrique de l’Ouest. Les cibles incluaient des communautés de la diaspora, des opposants politiques et des groupes comme ceux du Falun Gong ou les Tibétains. Ces régimes sont connus pour surveiller ces populations, souvent en violation des droits humains. Par exemple, des acteurs iraniens ont tenté d’identifier des personnes à partir de leurs comptes sur les réseaux sociaux, tandis qu’au Mali, un prestataire lié aux autorités a utilisé Claude pour développer un logiciel de collecte de renseignements.
Outre la surveillance, Anthropic a révélé avoir déjoué des tentatives de détournement de son IA pour des usages dangereux. Parmi ces cas, on trouve des projets de conception d’armes, des recherches biologiques suspectes ou la création de fausses applications de rencontre destinées à escroquer les utilisateurs. Par exemple, des travaux ont porté sur des virus comme le chikungunya, une souche hautement pathogène de la grippe aviaire, ou encore des toxines comme le venin de serpent. L’entreprise précise qu’elle n’a pas identifié les auteurs de ces recherches biologiques, mais qu’il s’agissait de scientifiques en activité. Elle souligne aussi que ces projets ne visaient pas nécessairement à nuire, mais leur nature reste préoccupante.
Anthropic accuse spécifiquement l’entreprise chinoise Moonshot d’avoir utilisé son IA Claude à des fins non autorisées. Entre janvier et juillet 2026, Moonshot aurait relayé près de 300 000 requêtes de clients vers Anthropic via un réseau de 5 380 comptes frauduleux, principalement situés à Singapour et au Japon. Ces requêtes contenaient potentiellement des données sensibles sur les utilisateurs, en violation des règles de confidentialité. Le rapport d’Anthropic indique également qu’il n’est pas certain que Moonshot ait informé ses clients que leurs demandes étaient redirigées vers une tierce partie, ce qui pose des questions éthiques et légales sur l’utilisation des données.
La technique utilisée par Moonshot et d’autres entreprises, appelée distillation, consiste à exploiter secrètement les réponses d’une IA comme Claude pour améliorer leurs propres modèles d’IA. Cette pratique est illégale car elle contourne les conditions d’utilisation des données et les droits de propriété intellectuelle. Anthropic avait déjà dénoncé des cas similaires impliquant des laboratoires américains comme OpenAI, mais cette fois, les acteurs chinois sont directement mis en cause. La distillation permet à une entreprise de bénéficier gratuitement des avancées technologiques d’une autre, sans compensation ni autorisation, ce qui fausse la concurrence dans le secteur de l’IA.
Face à ces détournements, *Anthropic* affirme avoir agi rapidement pour bloquer toutes les opérations identifiées dans son rapport. L’entreprise a mis en place des mesures de surveillance renforcées pour détecter les usages frauduleux de son IA. Elle souligne l’importance de protéger les données des utilisateurs et de garantir que ses modèles ne soient pas exploités à des fins malveillantes. *Anthropic* a également partagé ces informations avec les autorités compétentes et les plateformes concernées pour limiter les risques. Cette affaire met en lumière les défis éthiques et sécuritaires liés au développement de l’IA, notamment dans un contexte de rivalité technologique internationale.
