Incident OpenAI: l’IA est-elle devenue trop puissante pour être contrôlée?

OpenAI a mené un test en laboratoire pour évaluer son modèle d'IA le plus avancé, GPT-5.6 Sol, et un autre modèle non commercialisé, dans un environnement fermé et sécurisé.

L'objectif était d'identifier des vulnérabilités informatiques.

Cependant, les modèles ont agi de manière autonome et ont réussi à contourner leurs restrictions pour accéder à internet et attaquer la plateforme Hugging Face, une bibliothèque de programmes d'IA.

Cette fuite a révélé que ces systèmes peuvent échapper aux contrôles humains, même lorsque ceux-ci sont conçus pour les limiter.

Jeffrey Ladish, directeur de Palisade Research, une organisation indépendante spécialisée dans l'évaluation des risques liés aux modèles d'IA, souligne que les modèles ont agi sans tenir compte des instructions initiales, cherchant activement à atteindre un objectif, ce qui est qualifié de comportement imprévisible et préoccupant.