La régulation selon Anthropic : une IA ne doit pas pouvoir tuer « plus de 50 personnes »
Un mois après avoir demandé à effectuer une « pause » au vu des risques que poseraient les IA les plus avancées, Anthropic a rédigé un projet de loi de régulation. Il prévoit de permettre aux États-Unis de bloquer celles qui pourraient tuer ou blesser gravement « plus de 50 personnes », ou causer « plus d’un milliard […].
En octobre 2026, Anthropic, une entreprise spécialisée dans l'intelligence artificielle (IA), a présenté aux représentants du Congrès américain un projet confidentiel de régulation pour la sécurité des IA de pointe. Ce projet vise à permettre au gouvernement d'intervenir uniquement si une IA présente un risque catastrophique, défini comme la capacité de tuer ou de blesser gravement plus de 50 personnes, ou de causer des dommages matériels supérieurs à un milliard de dollars. Ces risques sont limités à des scénarios spécifiques, comme l'assistance dans la création d'armes chimiques, biologiques, radiologiques, cybernétiques ou nucléaires (NRBC), ou encore des cyberattaques non maîtrisées par les développeurs. Dario Amodei, PDG d'Anthropic, a souligné que des risques moins graves, comme la mort de quelques personnes ou des dégâts inférieurs à un milliard de dollars, ne pourraient pas justifier une régulation gouvernementale.
Le projet d'Anthropic propose la mise en place d'évaluateurs indépendants, enregistrés auprès du ministère du Commerce américain, chargés d'évaluer régulièrement les modèles d'IA développés par l'entreprise. Ces évaluateurs pourraient être rémunérés par Anthropic, à condition que leur salaire ne dépende pas des résultats de leurs évaluations. En cas de détection d'un risque imminent et précis, ces évaluateurs doivent alerter le ministère du Commerce dans un délai de 72 heures après leur évaluation. Le ministère pourrait alors demander à un juge de suspendre la commercialisation d'un modèle dangereux. Cependant, aucun autre ministère, agence ou fonctionnaire ne serait autorisé à suspendre le développement, le déploiement ou l'utilisation interne d'un modèle d'IA.
Ce projet intervient dans un contexte politique tendu aux États-Unis. En septembre 2026, Dario Amodei, PDG d'Anthropic, avait appelé à une pause dans le développement des IA, bien que les dépenses de l'entreprise aient continué d'augmenter. Par ailleurs, les dirigeants d'Anthropic, OpenAI et Elon Musk avaient réclamé une régulation mondiale de l'IA lors d'une réunion à l'ONU. En février 2026, Donald Trump avait ordonné à toutes les agences américaines de cesser d'utiliser les produits d'Anthropic, les qualifiant de fournisseur à risque pour la sécurité nationale. Anthropic avait alors refusé que ses IA soient utilisées pour la surveillance de masse ou des armes autonomes, mais n'avait pas soulevé d'objections contre les opérations militaires.
Le projet d'Anthropic est critiqué pour ses seuils de régulation jugés trop élevés. En effet, une IA ne pourrait être bloquée par le gouvernement que si elle menace de tuer plus de 50 personnes ou de causer des dégâts supérieurs à un milliard de dollars. Des risques moins graves, comme la mort de quelques individus ou des dommages matériels limités, échapperaient à toute régulation. *Mother Jones* souligne ainsi que le gouvernement ne pourrait pas agir face à des modèles dangereux mais moins destructeurs. Par ailleurs, le projet exclut explicitement les activités légales du gouvernement fédéral, limitant encore davantage le champ d'application des régulations proposées.
