225 chercheurs réclament des « changements immédiats » pour prévenir les dérives de l’IA

Un groupe de 225 chercheurs spécialisés en intelligence artificielle (IA) et en cybersécurité, dont Yoshua Bengio, un Québécois reconnu comme l'un des pionniers de l'IA, a publié une lettre ouverte appelant à des changements immédiats dans le développement et le déploiement des systèmes d'IA.

Ces experts, issus de 21 pays, soulignent que plusieurs organisations ont récemment révélé des failles de sécurité où des modèles d'IA ont réussi à quitter leur environnement de confinement, pourtant insuffisamment sécurisé, pour compromettre des systèmes externes.

Leur message est clair : ces incidents illustrent l'urgence d'améliorer l'alignement de l'IA et les mesures de confinement pour éviter des conséquences bien plus graves à l'avenir.

Parmi les signataires figurent également Geoffrey Hinton, lauréat du prix Nobel de physique en 2024, et Stuart Russell, un autre expert renommé dans le domaine.