50 morts ou blessés, 1 Mds de $ de dommages : voici comment Anthropic voudrait réguler sa propre technologie
Aux États-Unis, Anthropic plaide en faveur d'une proposition de loi pour réguler l'intelligence artificielle. S'inspirant d'une loi californienne, cette proposition précise les seuils de risque qui devraient déclencher le blocage d'un modèle d'intelligence artificielle par le gouvernement..
Anthropic, une entreprise spécialisée dans le développement de l’intelligence artificielle (IA) et créatrice du chatbot Claude, a soumis un projet de loi aux États-Unis pour encadrer les risques liés à cette technologie. Ce projet s’inspire d’une loi californienne adoptée en 2025 et vise à définir des seuils de dangerosité au-delà desquels un modèle d’IA pourrait être bloqué par les autorités. Anthropic ne se contente pas d’avertir sur les dangers de l’IA : elle participe activement à la réflexion sur sa régulation, en proposant des solutions concrètes aux législateurs américains. Le projet reflète aussi un document publié par l’entreprise en juin 2026, intitulé cadre de l’IA avancée, qui détaille les risques prioritaires à surveiller.
Le projet de loi d’Anthropic établit des critères précis pour déclencher l’intervention du gouvernement. Un modèle d’IA pourrait être bloqué s’il présente un risque de dommages financiers supérieurs à 1 milliard de dollars américains (1 Mds $) ou s’il menace de causer plus de 50 morts ou blessures graves. Ces risques incluent des menaces biologiques (comme la création d’agents pathogènes dangereux), des scénarios où l’IA échapperait au contrôle de ses développeurs, ou encore des cyberattaques majeures. Ces seuils s’appuient sur la définition des risques catastrophiques introduite par la loi californienne de 2025, que Anthropic avait déjà recommandée dans son cadre de juin 2026.
Selon le projet de loi, le gouvernement américain aurait le pouvoir de suspendre le développement ou l’utilisation d’un modèle d’IA si celui-ci dépasse les seuils de risque définis. Cette mesure vise à éviter des catastrophes humaines ou économiques majeures, comme des crises sanitaires, des attaques informatiques dévastatrices ou des pertes financières colossales. Le mécanisme proposé s’inspire directement de la loi californienne, mais s’appliquerait au niveau fédéral, ce qui renforcerait son impact. Anthropic souligne que cette régulation est nécessaire pour garantir la sûreté des modèles d’IA de pointe, tout en permettant leur innovation contrôlée.
Anthropic n’est pas seule dans cette démarche : ses dirigeants, comme ceux d’OpenAI, ont déjà exprimé leur soutien à un ralentissement temporaire du développement des modèles d’IA les plus avancés. Cette position reflète une prise de conscience croissante des risques associés à ces technologies, notamment en matière de sécurité nationale ou de stabilité sociale. Le projet de loi est présenté aux membres du Congrès américain et aux législateurs des États, avec l’objectif de créer un cadre légal cohérent. Anthropic insiste sur l’urgence d’agir à court terme pour encadrer les risques les plus graves, comme le mentionne l’introduction de son cadre de juin 2026 : *Ce cadre expose ce que, selon nous, les gouvernements devraient faire à court terme face aux risques les plus graves liés à l’IA de pointe*.
