Anthropic révèle avoir bloqué des tentatives de fabrication d’armes biologiques grâce à ses modèles
La start-up de Dario Amodei publie un long rapport sur une série de tentatives d’utilisation de ses modèles à des fins malveillantes. Parmi les plus inquiétantes, des requêtes susceptibles de conduire à la mise au point d’armes biologiques, rapporte “The New York Times”..
Anthropic est une entreprise spécialisée dans le développement de modèles d’intelligence artificielle (IA), notamment son chatbot nommé Claude. En septembre 2026, elle a publié un rapport détaillant les tentatives d’utilisation malveillante de ses outils sur une période de huit mois. Parmi les cas recensés, certains visaient la création d’armes biologiques, une menace considérée comme particulièrement grave par les experts. Les modèles d’Anthropic, comme Fable et Mythos, sont conçus pour répondre à des requêtes complexes, mais leur puissance soulève des questions éthiques et sécuritaires. La start-up, fondée par Dario Amodei, affirme avoir renforcé les dispositifs de sécurité pour limiter ces risques, notamment sur ses versions les plus avancées.
Le rapport d’Anthropic révèle que des utilisateurs ont tenté d’exploiter ses modèles pour développer des armes biologiques, une catégorie d’armes utilisant des agents pathogènes (virus, bactéries) capables de provoquer des maladies. Parmi les cas documentés, un scientifique a demandé à Claude de l’aider à rédiger une demande de subvention pour des recherches sur le chikungunya, un virus transmis par les moustiques. Ces recherches, dites de 'gain de fonction', visent à modifier génétiquement un agent pathogène pour en étudier la virulence ou le transmissibilité. Bien que ces travaux puissent aussi servir à développer des vaccins, ils présentent un risque élevé de détournement à des fins militaires ou terroristes. Anthropic souligne que ces tentatives provenaient notamment d’instituts de recherche militaire, ce qui ajoute une dimension géopolitique préoccupante.
Les modèles d’IA comme ceux d’Anthropic sont capables de générer du texte, d’analyser des données ou de simuler des scénarios, ce qui les rend potentiellement utiles pour la recherche scientifique. Cependant, leur capacité à traiter des informations complexes les expose aussi à des usages malveillants. Dans le cas des armes biologiques, les anciennes versions de Claude n’étaient pas suffisamment performantes pour contribuer efficacement à ces recherches dangereuses. Anthropic a donc renforcé les garde-fous sur ses modèles les plus récents, Fable et Mythos, pour limiter les risques. Malgré ces mesures, la start-up reconnaît que des utilisateurs ont contourné les restrictions géographiques pour accéder à ses outils, illustrant la difficulté de contrôler totalement ces technologies.
La révélation de ces tentatives a suscité des réactions parmi les experts. Susan Monarez, microbiologiste, souligne que l’IA offre un potentiel immense pour la médecine, comme le développement de vaccins ou de traitements. Cependant, elle met en garde contre les risques de prolifération d’agents pathogènes incontrôlables une fois libérés dans la nature. Jacob Klein, responsable des menaces chez Anthropic, explique que les intentions derrière ces recherches ne sont pas toujours claires, mais que leur caractère militaire ou leur lien avec des instituts de recherche soulève des questions éthiques et sécuritaires majeures. Ces cas illustrent les défis posés par une technologie en évolution rapide, dont les concepteurs eux-mêmes peinent à anticiper tous les usages.
Cet incident s’inscrit dans un débat plus large sur la régulation des technologies d’IA, notamment aux États-Unis. En mai 2026, Anthropic a obtenu l’autorisation du gouvernement américain d’exporter son modèle *Fable 5*, son outil le plus avancé, malgré les risques associés. Ces décisions soulèvent des questions sur l’équilibre entre innovation et sécurité. Les experts s’interrogent sur la capacité des humains à contrôler des technologies aussi puissantes, alors que leurs créateurs expriment des doutes quant à leur maîtrise. Ce rapport d’Anthropic met en lumière la nécessité de renforcer les mécanismes de surveillance et de collaboration internationale pour encadrer l’usage de l’IA dans des domaines sensibles comme la biologie ou la défense.
