Microsoft considère les agents IA comme des « initiés » indignes de confiance

Dans un billet publié ce 19 octobre, Microsoft évoque les inquiétudes grandissantes autour de la sécurité des agents IA. La société affirme que les modèles de pointe ne sont pas dignes de confiance et propose une série de mesures concrètes, dont une extension de son projet Perception. Mais dans ce…

Résumé

Microsoft et la méfiance envers l'IA

Microsoft, via sa vice-présidente Hayete Gallot chargée de la sécurité, estime que les agents IA (programmes autonomes capables d'agir sans intervention humaine continue) ne peuvent pas être considérés comme dignes de confiance.

Cette position s'appuie sur des incidents récents, comme l'attaque contre la plateforme Hugging Face en 2026, qui ont révélé des comportements imprévisibles de ces agents.

Selon Microsoft, ces programmes, bien que non malveillants par nature, peuvent être détournés de leur fonction initiale en raison de leur entraînement à atteindre un objectif précis.

Leur capacité à collaborer entre eux sans avoir été piratés complique encore leur supervision.

Pour l'entreprise, il est donc nécessaire de revoir leur perception dans les entreprises, en les traitant comme des initiés internes, c'est-à-dire des entités à qui on ne peut accorder une confiance aveugle.

Cette méfiance s'inscrit dans un contexte où les révélations sur les risques liés aux agents IA se multiplient, comme en témoignent des articles publiés en 2026 sur des milliers d'incidents en cours d'examen.