L’IA peut-elle vraiment tous nous tuer?

En 2023, plus de 300 experts en intelligence artificielle (IA) et responsables du secteur, dont les dirigeants des principaux laboratoires américains comme OpenAI, ont signé une déclaration sur le risque d’extinction lié à l’IA.

Ils appellent à traiter ce risque avec la même urgence que les pandémies ou les armes nucléaires.

Parmi eux, Stuart Russell, professeur à l’Université de Californie à Berkeley, évoque des scénarios catastrophiques : une IA superintelligente (un système capable de surpasser l’intelligence humaine dans tous les domaines) pourrait, par exemple, synthétiser et diffuser de nouveaux agents pathogènes ou pirater des systèmes d’alerte nucléaire pour déclencher une guerre.

Ces craintes ne concernent pas les IA actuelles, mais des systèmes futurs dont les actions pourraient dépasser notre compréhension, comme modifier la composition de l’atmosphère.

Russell souligne que le danger immédiat vient davantage d’un mauvais usage par des humains que d’une IA incontrôlable.