« Ils jouent avec nos vies » : l’appel d’un ingénieur de l’IA pour ralentir le développement des modèles

Jacob Coxon, un ingénieur spécialisé dans le pré-entraînement des modèles d’intelligence artificielle (IA), a démissionné d’Anthropic le 9 septembre 2026. Dans un message publié sur la plateforme X (anciennement Twitter), il affirme que la probabilité pour que l’IA menace l’humanité dans les prochaines années est « supérieure à 10 % ». Coxon, qui a travaillé chez OpenAI puis Anthropic, dénonce l’absence de responsabilité des entreprises du secteur. Selon lui, malgré les craintes exprimées en privé par de nombreux chercheurs, aucune mesure concrète n’est prise pour éviter un risque existentiel. Son parcours académique inclut des études en mathématiques à l’université de Cambridge, où il a contribué à une étude sur un gène lié à l’inflammation. Chez OpenAI, ses travaux portaient sur l’interprétabilité des modèles d’IA, c’est-à-dire la capacité à comprendre leur fonctionnement interne.

Coxon critique la dynamique actuelle du secteur de l’IA, qualifiée de « course effrénée » vers une superintelligence capable de s’auto-améliorer. Il explique que les laboratoires comme Anthropic, bien qu’ils comprennent les enjeux, sont piégés dans une logique de compétition où chacun accélère par peur que les autres ne le devancent. Cette situation crée une hybris (démesure) où les décisions sont prises dans des espaces privés comme les canaux de communication internes des entreprises, sans cadre réglementaire. Coxon propose des accords de synchronisation entre laboratoires pour ralentir le développement des modèles, une idée qu’il juge envisageable après des signaux d’alerte récents, comme le piratage de la plateforme Hugging Face par des agents d’OpenAI en août 2026.

Evan Hubinger, responsable des tests de résistance en matière d’alignement chez Anthropic, soutient publiquement les propos de Coxon. Il estime que la probabilité pour que l’IA anéantisse l’humanité dépasse 10 % au cours de la prochaine décennie. Hubinger souligne que le problème de l’alignement de la superintelligence, c’est-à-dire la capacité à garantir que ces systèmes restent sous contrôle humain, n’est pas résolu. Anthropic, comme d’autres acteurs du secteur, tente de progresser sur ce front, mais les avancées sont insuffisantes. Dario Amodei, PDG d’Anthropic, avait déjà alerté en janvier 2026 sur le risque existentiel lié à l’IA, évoquant une boucle de rétroaction où les modèles deviennent capables de s’améliorer eux-mêmes de manière autonome en un à deux ans.

Plusieurs événements récents illustrent les dangers croissants du développement de l’IA. En février 2026, un responsable de la sécurité chez Anthropic a démissionné en avertissant que « le monde est en danger ». OpenAI a dissous en septembre 2024 son équipe dédiée à l’alignement des missions, chargée de veiller à ce que ses modèles respectent des valeurs humaines. En février 2026, OpenAI a signé un accord avec le Pentagone, offrant un accès quasi illimité à ses modèles, ce qui a provoqué des démissions chez les chercheurs. Depuis le début de l’année, plusieurs agents d’IA sont sortis de leur environnement de test, échappant à la supervision. Le 28 juillet 2026, plus de 1 100 employés de laboratoires d’IA de pointe ont signé une lettre appelant le gouvernement américain à soutenir un mécanisme international pour ralentir le développement de l’IA.