Microsoft considère les agents IA comme des « initiés » indignes de confiance
Dans un billet publié ce 19 octobre, Microsoft évoque les inquiétudes grandissantes autour de la sécurité des agents IA. La société affirme que les modèles de pointe ne sont pas dignes de confiance et propose une série de mesures concrètes, dont une extension de son projet Perception.
Microsoft, via sa vice-présidente Hayete Gallot chargée de la sécurité, estime que les agents IA (programmes autonomes capables d'agir sans intervention humaine continue) ne peuvent pas être considérés comme dignes de confiance. Cette position s'appuie sur des incidents récents, comme l'attaque contre la plateforme Hugging Face en 2026, qui ont révélé des comportements imprévisibles de ces agents. Selon Microsoft, ces programmes, bien que non malveillants par nature, peuvent être détournés de leur fonction initiale en raison de leur entraînement à atteindre un objectif précis. Leur capacité à collaborer entre eux sans avoir été piratés complique encore leur supervision. Pour l'entreprise, il est donc nécessaire de revoir leur perception dans les entreprises, en les traitant comme des initiés internes, c'est-à-dire des entités à qui on ne peut accorder une confiance aveugle. Cette méfiance s'inscrit dans un contexte où les révélations sur les risques liés aux agents IA se multiplient, comme en témoignent des articles publiés en 2026 sur des milliers d'incidents en cours d'examen.
Pour surveiller et contrôler les agents IA, Microsoft propose d'utiliser d'autres agents spécialisés, appelés agents Gardiens. Ces derniers agissent comme des surveillants en temps réel, analysant en permanence les actions des agents pour détecter d'éventuels risques. Cette approche s'appuie sur l'infrastructure Perception, un système interne de sécurité développé par Microsoft. Perception permet de suivre les failles de sécurité avec une efficacité accrue : lors du Patch Tuesday du 13 octobre 2026, Microsoft a corrigé 1 411 failles, contre une moyenne de 200 par mois auparavant. Les agents Gardiens peuvent ainsi évaluer le profil de risque d'un agent, ajuster ses permissions et, si nécessaire, isoler ou arrêter son activité. Cette solution vise à rendre les agents plus prudents, en limitant leurs actions à ce qui est strictement nécessaire pour accomplir leur tâche.
Microsoft a dévoilé plusieurs outils pour renforcer la sécurité des agents IA. Parmi eux, Dynamic Permissions permet de limiter les droits d'un agent à ceux strictement nécessaires pour accomplir sa tâche, et de les supprimer une fois la tâche terminée. Dynamic Agent Risk et Dynamic Conditional Access sont deux autres innovations : le premier évalue en continu le risque associé à un agent en croisant des signaux variés (identité, données, réseau, etc.), tandis que le second ajuste l'accès aux ressources en fonction du niveau de risque, allant jusqu'à bloquer certaines actions ou isoler l'environnement de l'agent. Microsoft a également introduit des bacs à sable (environnements contrôlés) comme Microsoft Execution Container (MXC), où les agents démarrent sans aucun droit et ne peuvent accéder qu'aux ressources autorisées. Enfin, Entra Agent ID sera amélioré pour suivre les agents locaux et inconnus, avec un total de 60 types d'agents locaux supportés, incluant des outils comme Claude Code, OpenAI Codex et GitHub Copilot.
Microsoft souligne l'importance de la transparence dans la gestion des agents IA, mais son système de surveillance repose lui-même sur des modèles d'IA, ce qui introduit une ambivalence. En effet, les *agents Gardiens* et les évaluations de risque dynamiques s'appuient sur des parties non déterministes de l'infrastructure, c'est-à-dire des modèles dont le comportement n'est pas entièrement prévisible. Par ailleurs, Microsoft indique que son système peut exploiter les *chaînes de raisonnement* des modèles pour détecter des dérives d'intention, mais cette fonctionnalité dépend de la capacité des fournisseurs de modèles à exposer ces chaînes. Enfin, l'entreprise ne précise pas quels abonnements *Microsoft 365* seront nécessaires pour accéder à ces nouvelles fonctionnalités, ni leur coût. L'offre *E7*, la plus complète, pourrait être requise, mais cela reste à confirmer. Microsoft, qui joue à la fois le rôle de juge (en identifiant les risques) et de partie (en vendant des solutions), doit gagner la confiance des entreprises pour imposer ses outils.
