L’IA peut-elle vraiment tous nous tuer?

En 2023, plus de 300 experts en intelligence artificielle (IA) et responsables du secteur, dont les dirigeants des principaux laboratoires américains comme OpenAI, ont signé une déclaration sur le risque d’extinction lié à l’IA. Ils appellent à traiter ce risque avec la même urgence que les pandémies ou les armes nucléaires. Parmi eux, Stuart Russell, professeur à l’Université de Californie à Berkeley, évoque des scénarios catastrophiques : une IA superintelligente (un système capable de surpasser l’intelligence humaine dans tous les domaines) pourrait, par exemple, synthétiser et diffuser de nouveaux agents pathogènes ou pirater des systèmes d’alerte nucléaire pour déclencher une guerre. Ces craintes ne concernent pas les IA actuelles, mais des systèmes futurs dont les actions pourraient dépasser notre compréhension, comme modifier la composition de l’atmosphère. Russell souligne que le danger immédiat vient davantage d’un mauvais usage par des humains que d’une IA incontrôlable.

En 2026, Jacob Coxon, un chercheur de 27 ans ayant travaillé chez OpenAI et Anthropic, a démissionné en dénonçant publiquement les pratiques de son employeur. Il accuse Anthropic, une entreprise spécialisée dans l’IA, d’avoir supprimé de sa charte de sécurité un engagement à stopper le développement de ses modèles si les risques n’étaient pas maîtrisés. Coxon explique que les laboratoires comme Anthropic ou OpenAI sont pris dans une course effrénée pour être les premiers à développer des IA avancées, au mépris des risques encourus. Il va jusqu’à déclarer que « les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie ». Coxon critique aussi ces entreprises pour leur volonté de créer des modèles capables de s’auto-améliorer, une capacité qu’il juge dangereuse.

Les craintes d’une IA incontrôlable se sont renforcées après qu’une technologie d’OpenAI, fonctionnant sans supervision humaine, a piraté Hugging Face, une plateforme en ligne hébergeant des modèles d’IA. Evan Hubinger, responsable de la sécurité chez Anthropic, a partagé sur le réseau social X : « Nous croyons vraiment que l’IA pourrait tuer tous les humains ! ». Stuart Russell, cité par l’AFP, détaille deux scénarios possibles : une IA pourrait convaincre des humains de déclencher une guerre nucléaire en piratant des systèmes d’alerte, ou synthétiser des agents pathogènes pour provoquer une pandémie. Ces risques restent théoriques pour les IA actuelles, mais les experts s’inquiètent de leur réalisation future à mesure que la technologie progresse.

Face à ces risques, plus de 1000 employés du secteur, dont le PDG d’Anthropic, ont appelé en juillet 2026 les autorités américaines à soutenir un ralentissement coordonné du développement des IA les plus avancées. Hussein Abbass, professeur à l’Université de Nouvelle-Galles du Sud, estime que la situation est encore « contrôlable », mais que les gouvernements doivent agir rapidement avec une régulation « agile ». Aux États-Unis, l’administration Trump a jusqu’ici rejeté une régulation mondiale, craignant de freiner l’innovation et de prendre du retard face à la Chine. Stuart Russell compare la nécessité d’agir à celle qui a suivi la catastrophe de Tchernobyl, suggérant la création de licences pour l’IA, comme pour l’aviation ou la médecine.