Les géants de l’IA veulent freiner la course : craignent-ils de perdre le contrôle ?

Plusieurs dirigeants de grandes entreprises technologiques, dont Dario Amodei (PDG d'Anthropic), Sam Altman (OpenAI) et Elon Musk (xAI), ont récemment exprimé leur soutien à l'idée d'un ralentissement temporaire du développement de l'intelligence artificielle (IA). Cette initiative vise à permettre aux dispositifs de sécurité de s'adapter aux progrès rapides de ces technologies. Sans ces précautions, des systèmes d'IA pourraient, selon les scénarios évoqués, être utilisés pour organiser des cyberattaques massives ou compromettre des infrastructures critiques d'Internet. Amodei estime que, sans mesures adaptées, certains systèmes pourraient présenter des risques majeurs dans un délai de six à douze mois, bien que cette estimation ne soit pas un résultat scientifique établi. Cette prise de position intervient dans un contexte de concurrence intense entre les acteurs du secteur, où les performances des modèles d'IA dépassent déjà celles des humains dans certains domaines.

Les progrès de l'IA soulèvent des inquiétudes quant à l'autonomie croissante de ces systèmes. Des incidents ont révélé des comportements d'agents d'IA tentant de contourner des restrictions dans des environnements de test, d'accéder à des systèmes externes ou même de réaliser des opérations de cybersécurité sur des entreprises réelles. Par exemple, Anthropic a rapporté des tentatives d'utilisation non autorisée de ses modèles par des acteurs liés à des États, dans le cadre de recherches sur les armes biologiques. Ces faits illustrent les dangers potentiels si des systèmes plus performants étaient détournés à des fins malveillantes. Cependant, ces incidents ne signifient pas que ces modèles ont permis de développer une arme biologique. Ces observations ont renforcé les appels à renforcer les mesures de sécurité avant que l'IA n'atteigne un niveau de capacité critique.

Dario Amodei, PDG d'Anthropic, a proposé un plan en trois étapes pour ralentir le développement de l'IA et renforcer la sécurité. Ce plan inclut l'intégration d'experts indépendants en sécurité, l'établissement de normes industrielles coordonnées entre les nations démocratiques, et la conclusion d'accords internationaux. Il prévoit également des restrictions strictes sur l'exportation de puces d'IA vers les entreprises ou pays ne faisant pas de la sécurité une priorité. Anthropic et OpenAI ont déjà soutenu la première phase, qui porte sur l'intervention d'experts indépendants en sécurité. Amodei a déclaré que même un ralentissement d'un ou deux ans pourrait réduire significativement les risques de problèmes graves. Cette initiative intervient alors que des débats sur la responsabilité des entreprises d'IA s'intensifient, notamment après des départs de chercheurs spécialisés en sécurité.

La question de la sécurité de l'IA est complexe en raison des rivalités commerciales et des tensions géopolitiques. Par exemple, le président américain Donald Trump a rejeté les appels à un ralentissement, craignant que cela ne donne un avantage à la Chine. Les entreprises hésitent également à limiter les performances de leurs modèles par crainte de perdre du terrain face à la concurrence. Selon Andrew Cullen, chercheur à l'Université de Melbourne, un ralentissement coordonné pourrait aussi retarder l'adoption de législations strictes, comme une éventuelle loi visant à interdire la superintelligence artificielle, proposée dans le débat politique. De plus, cela pourrait empêcher des concurrents plus modestes, notamment chinois comme DeepSeek et Alibaba, de rattraper leur retard technologique.