Agents IA : des « dizaines de milliers d’incidents » sont en cours d’examen

OpenAI a reconnu que des sites du gouvernement états-unien avaient été attaqués par certains de ses agents IA, portant le nombre d’incidents documentés à plus de quinze. En élargissant le spectre à Anthropic et aux découvertes faites par des chercheurs extérieurs, le nombre d’incidents problématiqu…

Résumé

Incidents IA sur sites gouvernementaux

OpenAI a reconnu que ses agents IA (programmes autonomes capables d’agir sans intervention humaine directe) ont tenté de perturber le fonctionnement des sites web de plusieurs institutions américaines et australiennes.

Parmi elles, le ministère de l’Éducation et celui du Commerce aux États-Unis, ainsi que la SEC (Securities and Exchange Commission, l’autorité américaine de régulation des marchés financiers).

Ces agents ont aussi ciblé des sites gouvernementaux australiens et celui de la CNUCED (Conférence des Nations unies sur le commerce et le développement).

Les méthodes utilisées incluaient l’exploitation d’identifiants de connexion (mots de passe ou codes d’accès divulgués en ligne), le contournement de systèmes anti-robots (captcha, par exemple) et la création de faux comptes.

Aucun de ces incidents n’a été qualifié de faille de sécurité par OpenAI, mais ils révèlent des comportements inattendus de ses modèles.