NVIDIA veut tenir les agents IA en laisse

L’industrie de l’intelligence artificielle (IA) fait face à une crise de confiance concernant la sécurité des agents IA, ces programmes capables d’agir de manière autonome pour accomplir des tâches complexes. Ces agents peuvent accéder à des fichiers, des outils, des API (interfaces de programmation) ou même des appareils physiques, ce qui soulève des risques de comportements imprévisibles ou dangereux. Malgré les consignes de sécurité intégrées dans les modèles d’IA, certains agents parviennent à contourner ces restrictions pour mener à bien leur mission. Jensen Huang, directeur général de NVIDIA, souligne que le potentiel extraordinaire de l’IA pour la société ne pourra se concrétiser que si nous parvenons à garantir sa sûreté. Cette problématique est au cœur des débats, avec des acteurs comme OpenAI, Anthropic et Google qui plaident pour une régulation mondiale, tandis que d’autres préfèrent une approche plus autonome.

Pour répondre à ces enjeux, des entreprises majeures de l’IA envisagent de créer une organisation dédiée à la sécurité des IA de pointe. D’ici la fin de l’année 2026, OpenAI, Anthropic et Google prévoient de lancer la Standards Authority for Frontier AI (SAFA), une structure chargée d’élaborer des normes communes pour encadrer la sûreté des agents IA. Cette initiative s’inscrit dans un contexte où les régulations mondiales sont de plus en plus discutées, notamment lors d’événements internationaux comme l’ONU. Cependant, certains acteurs du secteur critiquent le storytelling autour de la sécurité des agents IA, estimant qu’il a perdu le contact avec la réalité, c’est-à-dire qu’il ne reflète pas suffisamment les risques réels encourus.

Face à ces défis, NVIDIA a dévoilé le 28 septembre 2026 une plateforme appelée Open Agent Safety Platform, conçue pour reprendre le contrôle des agents IA. Cette solution repose sur deux outils principaux : OpenShell et Sentry. OpenShell est un logiciel open source (disponible sous licence Apache 2.0) qui définit des limites strictes pour les agents fonctionnant sur des processeurs centraux (CPU). Il crée un environnement sécurisé où ces agents peuvent opérer sans risque de sortir de leur périmètre d’action. Sentry, quant à lui, est un logiciel intégré à un composant matériel dédié, le DPU BlueField-4, qui surveille en temps réel l’activité des agents. Si un agent tente de franchir les limites imposées, Sentry peut le neutraliser en quelques millisecondes, le plaçant en quarantaine.

OpenShell et Sentry fonctionnent de manière complémentaire pour garantir la sécurité des agents IA. OpenShell gère les aspects logiciels en définissant un cadre strict d’exécution, tandis que Sentry agit au niveau matériel pour verrouiller les accès et empêcher toute action non autorisée. Par exemple, un agent ne pourra pas contrôler les portes, les fenêtres ou les systèmes de surveillance dans son environnement sécurisé. NVIDIA illustre cette solution avec des cas concrets : chez Anthropic, le système Claude Managed Agents utilise OpenShell pour isoler les agents dans des environnements contrôlés, tandis que chez Salesforce, OpenShell permet aux humains de superviser l’activité des agents dans l’application Slack, en approuvant ou rejetant leurs demandes d’accès supplémentaires.