OpenAI, Anthropic et Google travaillent à la création d’un organe de régulation de l’IA
L’entreprise créée par Sam Altman a révélé mardi que les trois compagnies travaillaient ensemble depuis plusieurs semaines sur les questions de sécurité liées à l’IA. Aux États-Unis, des voix critiques s’inquiètent de voir les principaux acteurs du secteur définir eux-mêmes les règles destinées à encadrer le développement de cette technologie..
OpenAI, Anthropic et Google DeepMind, trois entreprises majeures dans le domaine de l'intelligence artificielle (IA), collaborent depuis plusieurs semaines pour créer un organe de régulation dédié à la sécurité de cette technologie. Cette initiative a été révélée le 15 septembre 2026 par Chris Lehane, responsable des affaires publiques internationales d'OpenAI, lors d'une interview accordée à l'agence Bloomberg. Les trois compagnies travaillent ensemble pour établir des normes communes visant à encadrer les risques liés à l'IA, notamment ceux liés aux modèles les plus avancés. Cette démarche intervient dans un contexte où les appels à une régulation plus stricte de l'IA se multiplient, tant aux États-Unis qu'à l'international.
L'idée d'un organe de régulation pour l'IA s'inspire du modèle de la FINRA (Financial Industry Regulatory Authority), une autorité américaine indépendante qui supervise les acteurs du secteur financier. Selon Demis Hassabis, président de Google DeepMind, cet organe aurait pour mission d'évaluer les modèles d'IA les plus performants, de surveiller leurs risques potentiels et, si nécessaire, de coordonner un ralentissement du développement de ces technologies à l'échelle mondiale. TechCrunch précise que cet organe serait doté de pouvoirs de supervision et de contrôle, similaires à ceux d'une agence de régulation classique. Cette proposition vise à éviter une régulation purement volontaire, jugée insuffisante par certains experts.
Sam Altman, PDG d'OpenAI, a défendu l'idée que le secteur de l'IA devrait être capable de s'auto-réguler, affirmant lors de la conférence Dreamforce à San Francisco que le monde devrait faire confiance aux acteurs du secteur pour développer cette technologie en toute sécurité. Jensen Huang, patron de Nvidia, a adopté une position similaire, déclarant qu'aucune nouvelle loi n'était nécessaire. Cependant, cette approche est contestée par d'autres acteurs du secteur, comme Aidan Gomez, PDG de Cohere, qui souligne que la régulation ne devrait pas être définie par un petit groupe d'entreprises. Il met en garde contre un risque de violation du droit de la concurrence si ces discussions sont perçues comme une tentative de restreindre la concurrence.
L'annonce des trois géants de l'IA coïncide avec une conférence organisée à Washington, The Pro-Human Assembly, qui réunissait des personnalités politiques aux opinions opposées, comme le sénateur socialiste Bernie Sanders et l'ancien stratège d'extrême droite Steve Bannon. Sanders a insisté sur la nécessité de règles internationales contraignantes, déclarant : « Quand l'avenir de l'humanité est en jeu, nous avons besoin de règles internationales contraignantes, pas de standards de l'industrie sur la base du volontariat. » De son côté, Bannon a critiqué l'arrogance des dirigeants du secteur de l'IA, soulignant que leur approche volontaire n'était pas suffisante pour garantir la sécurité de cette technologie.
Cette initiative survient dans un contexte où les débats sur les risques de l'IA se multiplient aux États-Unis et dans le monde. Les craintes portent notamment sur les dérives potentielles de l'IA, comme la fabrication d'armes biologiques ou la désinformation à grande échelle. Par ailleurs, certains pays, comme la Chine, accusent les appels à un ralentissement du développement de l'IA de viser à maintenir l'hégémonie technologique américaine. Enfin, des acteurs du secteur, comme Anthropic, ont déjà révélé avoir bloqué des tentatives d'utilisation malveillante de leurs modèles, illustrant l'urgence d'une régulation adaptée.
