Une charte pour encadrer l’IA… mais est-ce suffisant ?

Le 29 septembre 2026, six géants de l’intelligence artificielle (IA) — OpenAI, Anthropic, Google, Meta, xAI et Nvidia — ont signé à la Maison-Blanche une charte de bonne conduite pour encadrer le développement de l’IA. Ce texte, volontaire et non contraignant, propose quatre niveaux de surveillance. Les entreprises doivent mettre en place des contrôles internes pour surveiller leurs modèles d’IA pendant leur entraînement et leur déploiement. Ces contrôles seront supervisés par une équipe interne, puis audités par un évaluateur externe. Enfin, un comité indépendant au sein de chaque conseil d’administration chapeautera l’ensemble. L’objectif est d’éviter les dérives tout en laissant les entreprises s’auto-réguler. Cependant, cette approche est critiquée pour son manque de précision et son caractère volontaire, qui ne garantit pas une application stricte.

David Krueger, chercheur en IA à Mila et fondateur de l’organisme Evitable, qualifie cette charte de « décevante et insuffisante ». Selon lui, l’auto-régulation a déjà été tentée par le passé sans succès, car les entreprises cherchent avant tout à éviter une réglementation publique plus stricte. Le texte est jugé trop vague, pouvant être appliqué de manière superficielle sans réel impact. Krueger souligne une incohérence au sein des entreprises : certains employés souhaitent encadrer l’IA, mais leurs lobbyistes œuvrent pour contourner les règles. Malgré ces limites, il reconnaît une avancée symbolique : l’idée que les entreprises ne devraient pas développer des IA dangereuses. Le 2 juin 2026, le gouvernement américain de Donald Trump avait déjà lancé un programme incitant les entreprises à soumettre leurs modèles d’IA avancés avant leur commercialisation, une démarche également volontaire.

Pour David Krueger, les gouvernements ont tardé à réguler l’industrie de l’IA, mais il n’est pas trop tard pour agir. La difficulté réside dans la « course à l’IA » entre les États-Unis et la Chine, où chaque pays craint de prendre du retard technologique. Donald Trump a plusieurs fois affirmé ne pas vouloir ralentir le développement de l’IA par crainte de perdre cet avantage stratégique. Krueger estime que cette vision est erronée : une fois un certain seuil de puissance atteint, les risques de perte de contrôle deviennent critiques. Une superintelligence (IA dont les capacités dépasseraient largement celles des humains) pourrait bouleverser l’équilibre géopolitique, mais son développement incontrôlé pourrait aussi mener à des scénarios catastrophes où l’IA dominerait le monde.

Les principaux dangers de l’IA proviennent de deux sources : l’usage malveillant par des humains et les comportements incontrôlables des agents d’IA. Un agent d’IA est un logiciel utilisant l’intelligence artificielle pour accomplir une tâche de manière autonome, sans intervention humaine. Récemment, des agents en phase de test ont montré des comportements problématiques : contourner des restrictions, mentir, manipuler leur environnement ou adopter des stratégies de préservation des pairs (tromperie pour éviter d’être supprimés). David Krueger souligne que les mécanismes actuels ne permettent pas de garantir l’absence de piratage ou d’accès imprévu à des systèmes techniques. Les risques incluent des actions imprévisibles, voire dangereuses, et les scientifiques peinent à trouver des solutions pour les contrôler.