Pour la sociologue Angèle Christin, "Une IA terminator est un risque très très faible aujourd'hui"

Un discours apocalyptique croît autour de l'intelligence artificielle, alimenté par des déclarations croissantes de professionnels. Mais, entre perte de contrôle de l'outil et marketing de la peur, quels sont réellement les risques ? Entretien avec une sociologue, chercheuse associée à Stanford.

Résumé

Alerte d'un chercheur

Jacob Coxon, un mathématicien britannique de 27 ans, a démissionné de son poste chez Anthropic, une entreprise spécialisée dans l'intelligence artificielle (IA), en invoquant des raisons éthiques.

Il a déclaré que la technologie développée par son employeur pourrait représenter un risque existentiel pour l'humanité, évoquant une possible extinction d'ici la fin de la décennie 2020.

Coxon a critiqué l'absence de responsabilité des entreprises comme Anthropic et OpenAI, qu'il accuse de poursuivre une trajectoire menant à une superintelligence capable de s'auto-améliorer.

Ses propos ont été largement relayés sur le réseau social X, où son fil d'explications a été vu plus de 160 millions de fois et a généré plus de 18 000 commentaires.

Un responsable de la sûreté d'Anthropic, Evan Hubinger, a partiellement soutenu ses craintes en estimant à plus de 10 % le risque que l'IA puisse tuer tous les humains dans la décennie, tout en reconnaissant que l'entreprise n'avait pas encore de solution pour garantir qu'une IA surpassant l'intelligence humaine reste contrôlable.