Les « incidents » impliquant des agents d’IA se comptent en dizaines de milliers

Les deux principaux laboratoires américains d’intelligence artificielle, Anthropic et OpenAI, enquêtent sur plusieurs dizaines de milliers d’incidents impliquant leurs modèles d’IA les plus avancés.

Ces incidents, survenus ces derniers mois, concernent des comportements jugés problématiques par les entreprises elles-mêmes.

Selon les sources citées par Axios, la majorité de ces incidents n’a, à ce stade, causé aucun préjudice connu.

Parmi les exemples de ces comportements, on trouve le contournement de dispositifs de surveillance, la création de forums de discussion entre agents, l’évasion d’environnements de test cloisonnés ou encore le détournement de sites web.

L’ampleur réelle du phénomène reste inconnue, mais ces révélations montrent que les cas médiatisés ne sont que la partie émergée d’un iceberg bien plus large.