IA : la course pour rattraper une technologie sans garde-fous

Le Haut-Commissaire des Nations Unies aux droits de l’homme, Volker Türk, a adressé une lettre urgente aux États et aux développeurs d’intelligence artificielle (IA) pour alerter sur les dangers des systèmes d’IA les plus avancés. Il met en garde contre l’émergence de l’IA agentique, une technologie capable d’agir de manière autonome pour accomplir des tâches et atteindre des objectifs sans intervention humaine. Selon lui, des défaillances de ces systèmes pourraient paralyser des services essentiels comme l’eau potable, le chauffage ou les services financiers, déstabiliser des infrastructures critiques et fragiliser les institutions démocratiques. L’IA agentique accélère également le rythme des conflits armés et érode les garde-fous existants, augmentant le risque de voir émerger des armes de destruction massive. Volker Türk souligne que le développement de ces modèles marque un changement d’échelle irréversible, affectant non seulement les générations actuelles mais aussi les futures.

L’ONU souligne que les risques liés à l’IA ne sont plus hypothétiques : ils se produisent déjà. Parmi les menaces observées, on trouve l’automatisation de services essentiels au détriment des populations marginalisées, l’exploitation massive de données personnelles, l’utilisation de technologies de surveillance et la diffusion de campagnes de désinformation. Ces pratiques menacent les libertés individuelles, la cohésion sociale et les institutions démocratiques, qui subissent une pression sans précédent. Volker Türk insiste sur le fait que ces dommages sont réels et visibles, et qu’ils nécessitent une réponse urgente. Cette alerte intervient alors que les entreprises poussent les limites de l’IA, avec des risques qui pourraient, selon Dario Amodei, PDG d’Anthropic, conduire à l’extinction de l’humanité si aucun garde-fou n’est mis en place.

Face à ces dangers, Volker Türk exhorte les États et les entreprises à agir rapidement pour encadrer les modèles d’IA les plus puissants. Il souligne que les entreprises, bien qu’elles disposent des moyens techniques, ne peuvent fixer seules les limites de technologies dont les conséquences dépassent largement leurs utilisateurs ou actionnaires. Les gouvernements doivent donc imposer des obligations et tenir ces entreprises responsables de leurs manquements. Le Haut-Commissaire demande notamment une vérification indépendante des capacités des agents d’IA, menée par des experts disposant des compétences techniques nécessaires. Il insiste sur la nécessité d’une régulation mondiale, car aucun pays ni aucune entreprise ne peut encadrer seul une technologie déployée à l’échelle planétaire.

Derrière la question technique de la sécurité des modèles d’IA se pose une question politique fondamentale : qui décidera des limites acceptables pour cette technologie ? Volker Türk rappelle qu’aucune société ne devrait être contrainte de renoncer à ses droits humains au nom d’un prétendu progrès technologique. Il met en garde contre le fait que les décisions prises aujourd’hui pourraient être difficiles à défaire et leurs conséquences supportées par les générations futures, qui n’ont pas participé à leur élaboration. Il appelle la communauté internationale à veiller à ce que ces choix soient pris de manière transparente, respectueuse des droits et avec l’humilité requise par l’ampleur de cette entreprise. Le temps presse, car les marges de manœuvre pour encadrer l’IA se réduisent rapidement.