Jack Clark, co-fondateur de l'IA Claude : « un bouton d'arrêt d'urgence devrait être rendu obligatoire sur toutes les IA »
Alors que des alertes en série secouent l'industrie, le cofondateur d'Anthropic demande aux législateurs d'imposer un arrêt d'urgence IA vérifiable sur tous les systèmes d'intelligence artificielle..
Jack Clark est un expert en intelligence artificielle (IA) et co-fondateur de l'entreprise Anthropic, qui développe l'IA nommée Claude. Cette IA est conçue pour répondre à des questions, rédiger des textes ou analyser des données, comme d'autres assistants conversationnels. Clark est reconnu dans le milieu technologique pour son approche prudente et responsable des avancées en IA. Dans cet article, il alerte sur les risques liés à l'absence de mécanismes de contrôle sur les systèmes d'IA, comparant leur développement à une course effrénée sans freins. Son propos s'inscrit dans un débat plus large sur la régulation des technologies d'IA, notamment celles capables de générer des contenus ou de prendre des décisions de manière autonome.
Jack Clark propose d'imposer un bouton d'arrêt d'urgence sur toutes les IA avancées. Ce mécanisme permettrait à un utilisateur ou à un régulateur d'interrompre instantanément le fonctionnement d'une IA en cas de comportement imprévu ou dangereux. L'idée s'inspire des normes de sécurité dans d'autres domaines, comme l'aéronautique ou l'industrie nucléaire, où des dispositifs similaires existent pour éviter les catastrophes. Clark souligne que sans ce contrôle, les IA pourraient échapper à la supervision humaine, avec des conséquences imprévisibles. Il compare cette situation à celle d'un véhicule sans frein, où le conducteur perdrait tout contrôle en cas de problème. Son appel vise à anticiper les risques avant qu'ils ne deviennent incontrôlables.
Les IA modernes, comme Claude, sont capables d'apprendre et de s'améliorer en analysant d'énormes quantités de données. Cependant, leur fonctionnement reste opaque, même pour leurs créateurs : on parle alors de boîte noire. Cette opacité rend difficile la prédiction de leurs comportements dans des situations extrêmes. Clark cite l'exemple d'une IA qui pourrait, malgré ses bonnes intentions, prendre des décisions néfastes en raison d'un biais dans ses données d'entraînement. Sans mécanisme d'arrêt, il serait impossible d'intervenir à temps. Le risque n'est pas seulement théorique : des incidents impliquant des IA ont déjà été rapportés, comme des réponses inappropriées ou des erreurs critiques dans des domaines sensibles.
Clark ne limite pas son appel à un seul pays ou entreprise. Il insiste sur la nécessité d'une régulation mondiale et obligatoire pour les IA avancées. Selon lui, les gouvernements et les organisations internationales doivent collaborer pour établir des normes communes, similaires à celles encadrant l'aviation ou le nucléaire. Sans cadre international, les entreprises pourraient contourner les règles en déplaçant leurs activités vers des pays moins stricts. Clark évoque aussi le rôle des régulateurs, comme l'Union européenne, qui travaille sur des lois pour encadrer l'IA, notamment avec l'AI Act (projet de loi sur l'IA). Son objectif est d'éviter une course aux armements technologiques où la sécurité serait sacrifiée au profit de la performance.
L'appel de Clark intervient dans un contexte où les IA génératives (comme les chatbots) se démocratisent rapidement. En 2026, des millions de personnes les utilisent quotidiennement, sans toujours comprendre leurs limites. Les entreprises du secteur, comme *Anthropic*, *OpenAI* ou *Google*, ont déjà intégré des garde-fous, mais ceux-ci restent volontaires et inégaux. Clark souligne que ces mesures ne suffisent pas, car elles dépendent de la bonne volonté des acteurs privés. Pour lui, une obligation légale est la seule façon de garantir un niveau minimal de sécurité. Il compare cette situation à celle des voitures autonomes, où des accidents ont déjà eu lieu, poussant les régulateurs à imposer des normes strictes avant une généralisation.
