La régulation selon Anthropic : une IA ne doit pas pouvoir tuer « plus de 50 personnes »

Un mois après avoir demandé à effectuer une « pause » au vu des risques que poseraient les IA les plus avancées, Anthropic a rédigé un projet de loi de régulation. Il prévoit de permettre aux États-Unis de bloquer celles qui pourraient tuer ou blesser gravement « plus de 50 personnes », ou causer «…

Résumé

Projet de régulation d'Anthropic

En octobre 2026, Anthropic, une entreprise spécialisée dans l'intelligence artificielle (IA), a présenté aux représentants du Congrès américain un projet confidentiel de régulation pour la sécurité des IA de pointe.

Ce projet vise à permettre au gouvernement d'intervenir uniquement si une IA présente un risque catastrophique, défini comme la capacité de tuer ou de blesser gravement plus de 50 personnes, ou de causer des dommages matériels supérieurs à un milliard de dollars.

Ces risques sont limités à des scénarios spécifiques, comme l'assistance dans la création d'armes chimiques, biologiques, radiologiques, cybernétiques ou nucléaires (NRBC), ou encore des cyberattaques non maîtrisées par les développeurs.

Dario Amodei, PDG d'Anthropic, a souligné que des risques moins graves, comme la mort de quelques personnes ou des dégâts inférieurs à un milliard de dollars, ne pourraient pas justifier une régulation gouvernementale.