IA : la course pour rattraper une technologie sans garde-fous
L’intelligence artificielle agentique, capable d’agir de manière autonome, accélère les risques systémiques au point de menacer des services essentiels, des infrastructures critiques et même la stabilité démocratique. Face à cette urgence, le Haut-Commissaire de l’ONU aux droits de l’homme alerte sur l’absence de garde-fous concrets et interroge la capacité des États et des entreprises à encadrer une technologie dont les conséquences dépassent les frontières et les générations.
Quels dangers spécifiques l’IA agentique fait-elle peser selon le Haut-Commissaire de l’ONU ?
L’IA agentique pourrait paralyser des services essentiels comme l’accès à l’eau potable, au chauffage ou aux services financiers, déstabiliser des infrastructures critiques, fragiliser les institutions démocratiques et même accélérer le rythme des conflits armés, voire éroder les barrières empêchant le lancement d’armes de destruction massive.
Pourquoi Dario Amodei, PDG d’Anthropic, a-t-il appelé à un ralentissement des progrès en IA ?
Dario Amodei a plaidé pour un ralentissement afin de laisser davantage de temps aux sociétés pour comprendre et maîtriser les risques associés aux nouvelles capacités de l’IA, qu’il juge comparables, voire plus dangereux, que ceux liés à l’arme nucléaire.
Quels préjudices liés à l’IA sont déjà observables selon l’ONU ?
L’ONU souligne que les dommages ne sont plus hypothétiques : automatisation de services essentiels au détriment des populations marginalisées, exploitation massive de données personnelles, technologies de surveillance et campagnes de désinformation menacent déjà les libertés individuelles, la cohésion sociale et les institutions démocratiques.
Quelles mesures concrètes le Haut-Commissaire de l’ONU propose-t-il pour encadrer l’IA ?
Il exige une vérification indépendante des capacités des agents d’IA par des experts, une évaluation permanente des conséquences sur les droits humains par les entreprises, et une régulation multilatérale mondiale, car aucun pays ou entreprise ne peut encadrer seul une technologie déployée à l’échelle planétaire.
Ce que ça pourrait changer
L’absence de cadre international contraignant pourrait cristalliser des inégalités d’accès aux droits fondamentaux et rendre irréversibles des choix technologiques dont les conséquences seront supportées par les générations futures, privées de voix dans leur élaboration. La fenêtre pour agir se réduit rapidement, posant la question de la légitimité démocratique des décisions prises aujourd’hui.
