À l’ONU, les patrons de l’IA réclament une régulation mondiale

Lors d'une réunion organisée le 23 septembre 2026 au Conseil de sécurité de l'ONU, deux figures majeures de l'intelligence artificielle (IA), Dario Amodei (patron d'Anthropic) et Sam Altman (directeur général d'OpenAI), ont tiré la sonnette d'alarme sur les risques liés à l'IA. Amodei a déclaré que cette technologie pourrait représenter une menace pour l'humanité entière, tandis qu'Altman a évoqué la possibilité de perdre le contrôle de notre avenir face à des systèmes d'IA devenant trop puissants et autonomes. Ces avertissements s'inscrivent dans un contexte où les modèles d'IA évoluent à un rythme effréné, rendant difficile pour les humains de suivre leur progression ou d'intervenir en cas de problème. Les deux dirigeants ont souligné l'urgence de mettre en place des règles internationales pour encadrer ces technologies.

Dario Amodei et Sam Altman ont proposé des mesures concrètes pour réguler l'IA à l'échelle mondiale. Amodei a suggéré trois pistes : des accords internationaux ciblant des usages dangereux, comme l'interdiction de l'IA pour créer des armes biologiques, des mécanismes de vérification pour s'assurer que les États respectent leurs engagements, et des normes communes pour tester les modèles d'IA avant leur déploiement. Altman a ajouté l'idée de normes pour évaluer les risques des modèles les plus avancés, de procédures de signalement rapide des incidents, et de protocoles de classification des menaces. Les deux dirigeants insistent sur la nécessité de maintenir un contrôle humain effectif, même à mesure que les systèmes d'IA gagnent en autonomie.

Les propositions des dirigeants de l'IA ne font pas l'unanimité. Aux États-Unis, la Maison-Blanche, dirigée par Donald Trump, rejette l'idée de ralentir le développement de l'IA, une position partagée par des figures comme Jensen Huang (NVIDIA) et Mark Zuckerberg (Meta). Elon Musk, après avoir soutenu les alertes d'Amodei, a proposé une évaluation mutuelle entre les entreprises américaines et chinoises, une idée jugée peu réaliste en raison de la concurrence intense entre ces deux pays. La Chine, bien qu'en faveur d'une gouvernance mondiale de l'IA, soutient aussi le développement de modèles open source, dont les usages sont difficiles à contrôler une fois diffusés.

Plusieurs pays, notamment en Europe et au Canada, se montrent plus réceptifs aux propositions de régulation de l'IA. Le Premier ministre norvégien Jonas Gahr Støre et le président finlandais Alexander Stubb ont publié un appel pour une IA sous contrôle humain, signé par plus de vingt dirigeants, dont Emmanuel Macron et Mark Carney. Cette initiative vise à encadrer les modèles d'IA les plus avancés, appelés frontier AI (modèles de frontière), et à garantir que leur développement reste sous supervision humaine. La France, qui a organisé cette réunion à l'ONU, joue un rôle central dans ces discussions.

Face à l'absence de consensus international, les principales entreprises du secteur de l'IA envisagent de créer leur propre organisme de régulation. Anthropic, OpenAI et Google prévoient de lancer d'ici fin 2026 ou début 2027 une organisation appelée Standards Authority for Frontier AI (SAFA). Cet organisme aurait pour mission d'élaborer des normes communes de sûreté pour les modèles d'IA avancés, d'encadrer leur évaluation avant déploiement, et de définir des procédures de signalement des incidents. Bien que cette initiative soit indépendante des gouvernements, ses promoteurs espèrent collaborer ultérieurement avec les États-Unis. La Maison-Blanche avait initialement envisagé de créer cet organisme par décret, mais le projet a été freiné par l'opposition de Zuckerberg et Huang.