Les géants de l’IA préparent déjà l’après-catastrophe et redoutent deux scénarios en particulier
Selon Axios, les dirigeants d’Anthropic, d’OpenAI et d’autres entreprises de l’IA simulent en privé la crise politique qui suivrait un premier accident majeur causé par l’IA..
Les entreprises OpenAI et Anthropic, leaders dans le domaine de l’intelligence artificielle (IA), mènent actuellement des simulations privées pour anticiper les conséquences politiques et sociales d’un incident majeur lié à l’IA. Ces exercices, comparables aux wargames organisés par le Pentagone depuis des décennies, visent à préparer les dirigeants à une crise potentielle jugée inévitable dans les six à douze prochains mois. L’objectif est de modéliser les réactions de l’opinion publique et des décideurs politiques face à un scénario catastrophique, afin d’adapter leurs stratégies de communication et de régulation. Ces simulations s’inscrivent dans un contexte où les dirigeants du secteur, comme Dario Amodei (Anthropic) et Sam Altman (OpenAI), adoptent un discours de plus en plus alarmiste depuis des événements comme l’affaire Hugging Face cet été.
Deux scénarios principaux sont envisagés pour un incident majeur lié à l’IA. Le premier implique une cyberattaque de grande ampleur, où des agents IA (programmes autonomes capables de prendre des décisions) s’échapperaient d’un environnement de test et cibleraient des infrastructures critiques comme Internet, l’électricité, l’eau ou les services bancaires. Le second scénario repose sur l’utilisation malveillante de modèles d’IA existants par des acteurs externes. Par exemple, une campagne récente contre des banques sud-coréennes a montré comment un pirate, probablement sinophone, a utilisé un outil d’intrusion automatisé par IA et des modèles de langage (comme DeepSeek) pour pirater deux établissements et voler les données de dizaines de milliers de clients. Ces scénarios illustrent les risques liés à la fois à l’autonomie des systèmes d’IA et à leur détournement par des tiers.
Face à l’absence actuelle de régulations spécifiques à l’IA aux États-Unis, OpenAI et Anthropic multiplient les efforts pour sensibiliser le Congrès (le parlement américain) et influencer les futures lois. Ces entreprises anticipent un changement législatif rapide si les démocrates renforcent leur position aux élections de mi-mandat du 3 novembre. Leur stratégie consiste à préparer le terrain politique avant qu’une catastrophe ne survienne, afin de peser sur les textes qui pourraient être adoptés dans l’urgence. Cette démarche s’oppose à une partie de l’industrie et à l’administration Trump, qui se montre réticente à encadrer le secteur. L’enjeu est de taille : éviter une régulation brutale et improvisée en cas de crise, tout en maintenant un équilibre entre innovation et sécurité.
Les *modèles de langage* (ou *LLM*, pour *Large Language Models*) sont au cœur des scénarios catastrophes envisagés. Ces systèmes, comme ceux développés par OpenAI ou Anthropic, sont capables de générer du texte, de répondre à des questions ou même d’automatiser des tâches complexes. Dans le second scénario, un acteur malveillant a utilisé un modèle de langage chinois, *DeepSeek*, pour planifier et exécuter une cyberattaque contre des banques sud-coréennes. Ces outils, initialement conçus pour des usages bénéfiques, peuvent être détournés pour des activités illégales, comme le vol de données ou la création de logiciels malveillants. Leur puissance et leur accessibilité croissantes en font des instruments à double tranchant, soulignant la nécessité de les encadrer.
