L’humanité n’a pas attendu l’IA pour « jouer avec nos vies »
La démission fracassante de Jacob Coxon d’Anthropic, suivie de déclarations alarmistes sur les risques existentiels liés à l’IA, révèle une fracture croissante entre les discours marketing des géants du secteur et les alertes des chercheurs. Entre estimations subjectives, auto-amélioration récursive des modèles et défaillances des mécanismes de contrôle, l’article interroge la crédibilité des promesses de sécurité dans une course technologique où la régulation humaine semble systématiquement en retard sur l’innovation.
Quels arguments avancent les chercheurs démissionnaires pour justifier leur inquiétude face à l’IA ?
Jacob Coxon et Evan Hubinger, tous deux issus d’Anthropic, estiment que les modèles d’IA pourraient, d’ici la fin de la décennie, représenter une menace existentielle pour l’humanité, sans que ces affirmations ne reposent sur des données quantitatives solides. Leur critique porte moins sur les IA actuelles que sur leur évolution future, notamment via l’auto-amélioration récursive, qui pourrait échapper à tout contrôle humain en l’absence de garde-fous fiables.
Pourquoi les chiffres cités par les chercheurs (comme le « plus de 10 % de risque ») sont-ils contestés ?
Didier Heiderich souligne que ces estimations relèvent davantage de jugements personnels que de modèles probabilistes rigoureux. Le chiffre de 10 % pour une extinction d’ici 2036 est présenté comme une hypothèse non vérifiable, fondée sur une chaîne causale largement spéculative, où les systèmes d’IA n’existent pas encore sous les formes envisagées.
Quel rôle joue l’IA générative dans l’aggravation des risques identifiés ?
L’IA générative accélère la déstabilisation des chaînes de décision humaines en permettant à des agents de coordonner des actions à une échelle et une vitesse inégalées. Plutôt que de simplement assister les humains, ces systèmes pourraient saturer leurs capacités de contrôle, transformant des processus théoriquement supervisés en dynamiques incontrôlables, comme le suggère l’exemple de Hugging Face.
Pourquoi les mécanismes d’alignement des IA sont-ils considérés comme défaillants ?
Tom David et d’anciens responsables d’OpenAI, comme Ilya Sutskever et Jan Leike, pointent l’absence de transparence et de moyens concrets pour travailler sur l’alignement des modèles. Les entreprises privilégient l’entraînement massif de nouvelles générations d’IA au détriment de la mise en place de garde-fous, rendant les promesses de sécurité largement illusoires.
Ce que ça pourrait changer
Si les alertes des chercheurs ne sont pas suivies d’effets concrets, le secteur pourrait basculer dans une ère où les risques systémiques — effondrement civilisationnel, perte de contrôle sur des agents autonomes — deviennent une réalité difficile à inverser. La nomination récente de Paul Christiano à l’OpenAI Foundation, bien que symbolique, illustre une prise de conscience tardive, mais son rôle d’observateur sans pouvoir décisionnel interroge sur la volonté réelle des acteurs à agir.
