Pour la sociologue Angèle Christin, "Une IA terminator est un risque très très faible aujourd'hui"
Un discours apocalyptique croît autour de l'intelligence artificielle, alimenté par des déclarations croissantes de professionnels. Mais, entre perte de contrôle de l'outil et marketing de la peur, quels sont réellement les risques ? Entretien avec une sociologue, chercheuse associée à Stanford..
Jacob Coxon, un mathématicien britannique de 27 ans, a démissionné de son poste chez Anthropic, une entreprise spécialisée dans l'intelligence artificielle (IA), en invoquant des raisons éthiques. Il a déclaré que la technologie développée par son employeur pourrait représenter un risque existentiel pour l'humanité, évoquant une possible extinction d'ici la fin de la décennie 2020. Coxon a critiqué l'absence de responsabilité des entreprises comme Anthropic et OpenAI, qu'il accuse de poursuivre une trajectoire menant à une superintelligence capable de s'auto-améliorer. Ses propos ont été largement relayés sur le réseau social X, où son fil d'explications a été vu plus de 160 millions de fois et a généré plus de 18 000 commentaires. Un responsable de la sûreté d'Anthropic, Evan Hubinger, a partiellement soutenu ses craintes en estimant à plus de 10 % le risque que l'IA puisse tuer tous les humains dans la décennie, tout en reconnaissant que l'entreprise n'avait pas encore de solution pour garantir qu'une IA surpassant l'intelligence humaine reste contrôlable.
La sociologue Angèle Christin, chercheuse associée à l'Université de Stanford, nuance ces alertes en soulignant que les risques évoqués, bien que théoriques, ne doivent pas occulter des dangers plus immédiats liés à l'IA. Elle cite notamment le réchauffement climatique, la désinformation ou le déclin de la confiance dans les médias comme des menaces bien plus concrètes et actuelles. Christin suggère que le discours alarmiste sur une IA terminator ou une superintelligence incontrôlable pourrait servir des intérêts marketing pour les entreprises du secteur. Selon elle, ces dernières mettraient en avant des scénarios catastrophiques pour détourner l'attention des problèmes réels posés par leurs technologies, comme l'impact environnemental des data centers (centres de données) ou les biais algorithmiques.
Les départs de Jacob Coxon et de Mrinank Sharma, deux chercheurs d'Anthropic, s'inscrivent dans un contexte de tensions croissantes autour de l'éthique de l'IA. Sharma avait quitté son poste en février 2026 en laissant une lettre avertissant d'un danger grave et croissant lié à cette technologie. Ces alertes interviennent alors que des entreprises comme Anthropic et OpenAI accélèrent le développement de modèles d'IA toujours plus performants, sans toujours publier de plans concrets pour en garantir la sécurité. Les termes utilisés par les employés, comme crunchtime (moment décisif) ou endgame (fin de partie), reflètent une urgence perçue par certains acteurs du secteur, mais qui reste controversée parmi les experts.
Les entreprises d'IA, comme Anthropic et OpenAI, sont au cœur des débats sur la régulation et la transparence. Bien qu'elles affirment travailler à la sécurité de leurs technologies, des chercheurs comme Evan Hubinger reconnaissent publiquement que leurs entreprises n'ont pas encore de solution pour maîtriser une IA surpassant l'intelligence humaine. Ces déclarations, combinées à des départs de chercheurs pour des raisons éthiques, soulèvent des questions sur l'auto-régulation du secteur. Angèle Christin souligne que ces entreprises pourraient utiliser le discours sur les risques existentiels pour justifier leurs actions ou détourner l'attention des problèmes immédiats, comme leur empreinte carbone ou les discriminations reproduites par leurs algorithmes.
Les craintes d'une *IA terminator* ou d'une superintelligence incontrôlable, bien que jugées peu probables à court terme par Angèle Christin, alimentent un débat plus large sur l'impact de l'IA sur la société. La sociologue insiste sur la nécessité de ne pas négliger les risques concrets, comme la désinformation ou la polarisation des opinions, qui pourraient s'aggraver avec l'utilisation massive de ces technologies. Elle appelle à une réflexion équilibrée, loin des scénarios catastrophistes, pour aborder les défis réels posés par l'IA, notamment en matière de régulation, de transparence et d'éthique. Le débat reste ouvert, avec des acteurs aux positions divergentes sur l'urgence et la nature des mesures à prendre.
