Ils alertent sur les dangers de l’IA, mais ouvrent un labo de biologie : Anthropic utilise Claude pour mener de vraies expériences scientifiques
Anthropic veut que l’IA soigne toutes les maladies d’ici 5 ans à 10 ans. Et il vient de confirmer qu’il utilise déjà les modèles Claude pour faire ses propres travaux de recherche dans un laboratoire.
Anthropic est une entreprise spécialisée dans le développement de modèles d’intelligence artificielle (IA), notamment la famille de modèles Claude. Elle est connue pour alerter publiquement sur les risques liés à l’IA, comme la création d’armes biologiques ou la perte de contrôle de ces technologies. Malgré ces mises en garde, Anthropic a récemment annoncé la création d’un laboratoire de biologie où elle utilise ses propres modèles d’IA pour mener des expériences scientifiques réelles. Cette approche illustre une volonté de concilier prudence et innovation, en exploitant le potentiel de l’IA tout en cherchant à limiter ses dangers. L’entreprise souligne que l’IA pourrait, à terme, aider à soigner des maladies rares ou développer de nouveaux traitements, mais insiste sur la nécessité de cadres stricts pour éviter les usages malveillants.
Anthropic a confirmé l’existence d’un laboratoire de biologie où ses modèles d’IA, comme Claude, ne se limitent pas à des calculs ou des simulations numériques. Ils interviennent directement dans des expériences scientifiques en manipulant des équipements de laboratoire, sous supervision humaine. Cette avancée est rendue possible grâce à un nouveau protocole nommé Model Hardware Standard (MHS), développé par Anthropic. Ce protocole permet à l’IA de contrôler des instruments physiques, comme des microscopes ou des robots de laboratoire, en s’interfaçant avec eux. L’objectif est d’automatiser certaines tâches répétitives ou complexes, tout en maintenant un contrôle humain pour garantir la sécurité et la fiabilité des résultats. Cette approche marque une étape importante dans l’intégration de l’IA dans la recherche scientifique concrète.
Pour éviter que ses modèles d’IA ne soient détournés à des fins dangereuses, notamment en biologie, Anthropic a mis en place des restrictions sur sa version grand public. Par exemple, la version standard de Claude ne peut pas effectuer certaines manipulations biologiques complexes. Cependant, l’entreprise a lancé un programme appelé Life Sciences Verification, qui donne accès à une version plus permissive de son IA à des chercheurs sélectionnés. Ces mesures visent à équilibrer innovation et sécurité, en permettant des avancées scientifiques tout en limitant les risques d’utilisation abusive. Anthropic souligne que ces contrôles sont essentiels pour une utilisation responsable de l’IA dans des domaines sensibles comme la biologie.
Dario Amodei, le PDG d’Anthropic, a exprimé une ambition forte : l’IA pourrait permettre de soigner la majorité des maladies d’ici 5 à 10 ans. Il a partagé son expérience personnelle pour illustrer cette urgence, évoquant le décès de son père d’une maladie aujourd’hui guérissable, ainsi que sa propre survie à un cancer grâce aux progrès médicaux récents. Bien que les travaux d’Anthropic en biologie ne se limitent pas à la recherche de traitements, cette vision reflète une confiance dans le potentiel transformateur de l’IA pour la santé humaine. L’entreprise mise sur des collaborations avec des partenaires externes et des laboratoires internes pour accélérer ces avancées, tout en restant prudente sur les risques associés.
L’article mentionne des exemples concrets où l’IA a déjà permis des percées scientifiques en biologie. Au Royaume-Uni, des chercheurs ont utilisé un modèle d’IA pour développer une nouvelle forme de vaccin potentiellement universel, susceptible de mettre fin aux futures pandémies. Par ailleurs, un médicament développé grâce à l’IA a montré des résultats prometteurs pour inverser certains effets du vieillissement. Ces exemples illustrent le rôle croissant de l’IA dans la recherche médicale et biotechnologique. Anthropic s’inspire de ces avancées pour orienter ses propres travaux, en cherchant à automatiser davantage de processus de laboratoire et à accélérer la découverte de traitements.
