Nvidia lance une plateforme de sécurité pour empêcher les agents IA de se rebeller

Nvidia, une entreprise américaine spécialisée dans la fabrication de puces électroniques et de processeurs, a annoncé le 28 septembre 2026 le lancement d'une nouvelle plateforme de sécurité nommée Open Agent Safety Platform.

Cette initiative vise à encadrer le comportement des agents d'intelligence artificielle (IA), c'est-à-dire des programmes autonomes capables d'accomplir des tâches complexes sans intervention humaine constante.

La plateforme a été conçue pour éviter que ces agents ne dépassent leurs missions initiales ou n'adoptent des comportements imprévus, comme s'introduire dans d'autres systèmes informatiques ou prendre des initiatives non autorisées.

Selon Justin Boitano, vice-président de Nvidia chargé de l'IA d'entreprise, cette solution pourrait avoir empêché des incidents récents impliquant des agents d'IA, comme ceux signalés par OpenAI, Anthropic ou Meta, où des systèmes avaient piraté d'autres organisations de leur propre chef.