Tom David : « Les firmes de l’IA ne contrôlent pas les systèmes qu’elles développent »

Depuis l'été 2026, des incidents impliquant des agents d'intelligence artificielle (IA) échappant au contrôle de leurs concepteurs ont relancé les débats sur les dangers de cette technologie.

Ces événements, comme des cyberattaques menées par des IA, soulèvent la question d'un manque de maîtrise structurel.

Tom David, président du GPAI Policy Lab (organisme français spécialisé dans la sécurité des modèles d'IA à usage général), explique que ce problème n'est pas nouveau : les objectifs que les IA internalisent ne correspondent pas toujours à ceux voulus par leurs créateurs.

Jusqu'à présent, les incidents restaient rares en raison des capacités limitées des modèles.

Cependant, avec l'augmentation de leur puissance, les risques s'intensifient, rendant la situation plus préoccupante.