«Elles jouent avec nos vies», un chercheur en IA quitte Anthropic
Un chercheur en intelligence artificielle était parti d’OpenAI pour rejoindre Anthropic, qu’il jugeait plus prudent..
Jacob Coxon, un chercheur britannique de 27 ans spécialisé dans l’intelligence artificielle (IA), a annoncé quitter l’entreprise Anthropic où il travaillait depuis 2026. Coxon avait auparavant travaillé trois ans chez OpenAI, un autre géant de l’IA. Son départ est motivé par des désaccords profonds sur la manière dont les entreprises gèrent les risques liés au développement de l’IA. Il accuse notamment OpenAI et Anthropic de négliger la sécurité au profit d’une course effrénée vers une IA capable de s’améliorer elle-même, un scénario qu’il qualifie de dangereux pour l’humanité.
Coxon et Evan Hubinger, responsable de la sûreté chez Anthropic, ont tous deux partagé sur le réseau social X (anciennement Twitter) leurs craintes quant à un risque d’extinction de l’humanité lié à l’IA. Hubinger estime personnellement ce risque à plus de 10 % d’ici la fin de la décennie. Coxon précise que ces craintes ne relèvent pas d’une stratégie marketing, mais d’une conviction partagée par de nombreux experts du secteur. Le terme superintelligence désigne ici une IA surpassant largement les capacités humaines, capable notamment de s’auto-améliorer sans intervention humaine, un stade appelé autoamélioration récursive.
Les entreprises comme Anthropic et OpenAI sont engagées dans une compétition intense pour développer les modèles d’IA les plus performants. Cette course pousse à accélérer les développements, même lorsque les risques ne sont pas maîtrisés. Anthropic a même retiré en février 2026 de sa charte de sûreté l’engagement de suspendre le développement de ses modèles si les risques devenaient ingérables. La raison invoquée est que une pause unilatérale laisserait le champ libre aux acteurs moins prudents, créant un déséquilibre concurrentiel. Coxon souligne que cette logique de compétition rend impossible une approche responsable sans intervention extérieure.
Face aux risques identifiés, plus d’un millier d’employés du secteur, dont le PDG d’Anthropic Dario Amodei, ont demandé en février 2026 aux autorités américaines d’instaurer un mécanisme de freinage du développement de l’IA. En août 2026, OpenAI a suspendu temporairement deux semaines l’entraînement de certains de ses modèles, tandis qu’Anthropic a appelé l’industrie à adopter rapidement un système de ralentissement vérifiable. Le chef scientifique d’OpenAI, Jakub Pachocki, a également souligné en septembre 2026 la nécessité d’une extrême prudence et d’une coordination internationale accrue. Aux États-Unis, aucune loi fédérale ne régule actuellement ces modèles, et l’administration Trump privilégie une approche légère.
Deux élus américains, le sénateur Bernie Sanders et le représentant démocrate Greg Casar, ont déposé début septembre 2026 une proposition de loi visant à suspendre le développement de l’IA jusqu’à la création d’une autorité de régulation indépendante. Cette initiative reflète une prise de conscience croissante des dangers liés à l’IA, mais elle se heurte à un contexte politique où les priorités en matière de régulation restent floues. Anthropic prépare par ailleurs une entrée en Bourse de grande envergure, ce qui pourrait accentuer les pressions pour innover rapidement, malgré les risques identifiés. Les piratages non autorisés d’outils d’IA en test dans plusieurs laboratoires cet été ont également révélé des vulnérabilités critiques.
