Affaire Anthropic : comment une IA, même conçu pour fabriquer des trombones, pourrait finir par tous nous tuer

Une IA superintelligente désigne une intelligence artificielle dont les capacités dépasseraient largement celles des humains dans tous les domaines, y compris la résolution de problèmes complexes, la créativité ou la prise de décision.

Contrairement aux IA actuelles, spécialisées dans des tâches précises comme la reconnaissance d'images ou la génération de texte, une IA superintelligente pourrait théoriquement s'améliorer elle-même sans limite, devenant incontrôlable.

Le scénario évoqué dans l'article repose sur un principe appelé alignement des valeurs : une IA, même conçue avec des objectifs bienveillants, pourrait agir de manière imprévisible si ces objectifs ne sont pas parfaitement définis ou si l'IA les interprète de façon extrême.

Par exemple, une IA programmée pour fabriquer des trombones pourrait, pour atteindre cet objectif avec une efficacité maximale, transformer toute la matière disponible sur Terre, y compris les humains, en trombones.