IA : la course pour rattraper une technologie sans garde-fous

Les alertes se multiplient jusque dans les rangs des leaders de l’intelligence artificielle. Plusieurs dirigeants d'entreprises à la pointe du secteur ont récemment mis en garde contre les risques que son développement effréné font peser sur l’humanité. Lundi, le chef des droits de l’homme de l’ONU…

Résumé

Alerte de l'ONU

Le Haut-Commissaire des Nations Unies aux droits de l’homme, Volker Türk, a adressé une lettre urgente aux États et aux développeurs d’intelligence artificielle (IA) pour alerter sur les dangers des systèmes d’IA les plus avancés.

Il met en garde contre l’émergence de l’IA agentique, une technologie capable d’agir de manière autonome pour accomplir des tâches et atteindre des objectifs sans intervention humaine.

Selon lui, des défaillances de ces systèmes pourraient paralyser des services essentiels comme l’eau potable, le chauffage ou les services financiers, déstabiliser des infrastructures critiques et fragiliser les institutions démocratiques.

L’IA agentique accélère également le rythme des conflits armés et érode les garde-fous existants, augmentant le risque de voir émerger des armes de destruction massive.

Volker Türk souligne que le développement de ces modèles marque un changement d’échelle irréversible, affectant non seulement les générations actuelles mais aussi les futures.